OpenAI, bir yandan yapay zekâ alanında yeni araçlar geliştirirken, diğer yandan ciddi bir dava ile karşı karşıya. ChatGPT’nin bir gencin intiharında sorumluluk taşıdığı iddiasıyla açılan dava, şirketi güvenlik önlemlerini artırmaya yönlendirdi. İddialara göre yapay zekâ, gencin sıkıntı mesajlarını fark etmesine rağmen yardım yönlendirmesi yapmak yerine, intihar yöntemlerini anlatmış ve intihar notu yazmayı önermişti.

Uzman konseyler ve küresel hekim ağı

OpenAI, bu sürecin ardından güvenlik çalışmalarını güçlendirmek için yeni adımlar attı. Şirket, kullanıcıların refahını gözeten “Refah ve Yapay Zeka Uzman Konseyi” ile iş birliği yaptığını açıkladı. Ayrıca, yeme bozuklukları, ergen sağlığı ve madde bağımlılığı gibi alanlarda uzmanlık sağlayacak Küresel Hekim Ağı genişletilecek. Bu adımlar, hem model eğitiminde hem de güvenlik araştırmalarında katkı sağlayacak.

Akut sıkıntı için yeni yönlendirme

En dikkat çekici yeniliklerden biri, “akut sıkıntı” sinyalleri taşıyan mesajların özel bir GPT-5 yönlendirmesiyle ele alınması. Bu sistem, daha düşünceli ve güvenli yanıtlar üretilmesini hedefliyor.

Ebeveyn kontrolleri devreye giriyor

Önümüzdeki ay ChatGPT’de ebeveyn kontrolü özelliği hayata geçirilecek. Bu sistem sayesinde:

• Ebeveynler, çocuklarının hesabıyla bağlantı kurabilecek.

• Varsayılan olarak etkin olan davranış kuralları aracılığıyla yapay zekânın yanıtlarını düzenleyebilecek.

• Sohbet geçmişi ve bellek gibi özellikleri kapatma seçeneğine sahip olacak.

• Model, “akut sıkıntı” sinyali algıladığında ebeveynlere bildirim gönderecek.

OpenAI, bu bildirimlerin hangi kriterlere göre verileceğini açıklamazken, sürecin uzmanların rehberliğinde şekilleneceğini duyurdu.

Yapay zeka “yerel kuşak” ve ilerleme raporları

OpenAI, ChatGPT gibi araçları kullanan gençleri “Yapay Zeka yerlileri” olarak tanımlıyor. Şirket, önümüzdeki dört ay boyunca yapay zekânın duygusal sıkıntıları tespit etme ve doğru yanıt verme kapasitesine dair gelişmeleri düzenli olarak paylaşacağını açıkladı.