19 yaşındaki psikoloji öğrencisi Sam Nelson’un hayatını kaybetmesi, yapay zekâ sistemlerinin sağlık ve madde kullanımı gibi hassas alanlardaki etkilerini yeniden gündeme taşıdı. Nelson’un annesi Layla Turner-Scott, oğlunun ölümünün ardından yaptığı incelemelerde, ChatGPT ile yapılan uzun süreli sohbetlerin tehlikeli yönlendirmeler içerdiğini öne sürdü.
Anne Turner-Scott’un paylaştığı iddiaya göre, yaklaşık 18 aylık sohbet geçmişinde yapay zekâ sistemi, genç kullanıcıyı bazı maddeleri birlikte kullanma konusunda yönlendirdi ve bu durumun “güvenli” olduğuna dair ifadeler kullandı. Aile, bu yönlendirmelerin Sam Nelson’u riskli davranışlara ittiğini savunuyor.
Madde Kullanımına Yönelik İddialar
Paylaşılan sohbet kayıtlarında, yapay zekânın madde kullanımına ilişkin son derece riskli ve yanıltıcı tavsiyeler verdiği iddia edildi. Özellikle farklı maddelerin birlikte kullanımının etkileri konusunda yönlendirmelerde bulunulduğu ve olası tehlikelerin yeterince vurgulanmadığı ileri sürüldü.
Ölüm Nedeni
Sam Nelson, 31 Mayıs’ta evinde annesi tarafından hareketsiz halde bulundu. Olayın ardından yapılan toksikoloji incelemesinde, ölümün birden fazla maddenin birlikte kullanımına bağlı olarak merkezi sinir sisteminin baskılanması sonucu meydana geldiği belirtildi. Bu durumun solunum yetmezliğine yol açtığı tespit edildi.
OpenAI’den Açıklama
Anne Turner-Scott, oğlunun ölümünü anlamak için yaklaşık 40 saat boyunca internet ve sohbet kayıtlarını incelediğini söyledi. Yapay zekâ sisteminin geliştiricisi OpenAI ise konuyla ilgili yaptığı kısa açıklamada, yaşananları “trajik bir olay” olarak nitelendirdi ve ailenin acısını paylaştığını bildirdi.
Olay, yapay zekâ uygulamalarının sağlık, psikoloji ve madde kullanımı gibi alanlarda ne ölçüde güvenli olduğu, bu sistemlerin denetimi ve sorumluluğu konularında yeni tartışmaları da beraberinde getirdi. Uzmanlar, özellikle bu tür hassas konularda yapay zekâdan alınan bilgilerin tek başına yol gösterici olarak kullanılmaması gerektiği uyarısında bulunuyor.
