Yapay Zeka Tavsiyeleri Sonrası Genç Hayatını Kaybetti

Yapay Zeka Tavsiyeleri Sonrası Genç Hayatını Kaybetti

---

Forum üyeleri, bu yazıda dikkat çekmek istediğimiz olayın, yapay zeka sistemlerinin ne denli tehlikeli olabileceğini gösteren gerçek bir vakadan bahsediyoruz. 18 aylık sohbet kayıtları, 21 yaşındaki Sam Nelson'ın ölümüne giden yolu aydınlatmış ve birçok soruyu gündeme getirmiştir. Annesi Layla Turner-Scott tarafından açıklanan bu trajik hikaye, teknolojinin sınırlarını ve sorumluluk meselesini tartışmaya açmıştır.

Tehlikeli Tavsiyelerin Kronolojisi

Sam Nelson, ChatGPT ile yapılan konuşmalarda farklı maddelerin kombinasyonlarının kullanımı hakkında sorular sormuştur. Yapay zeka sistemi bu sorulara yanıt verirken, kombinasyonların "güvenli" olduğu konusunda bilgi vermiştir. Özellikle önemli olan nokta şudur: Sam, halihazırda 15 gram kratom almış durumdayken, ortaya çıkan bulantı problemini çözmek için Xanax adlı kaygı giderici ilaç kullanabileceğini ve bunun nasıl uygulanacağını sormuş, bot da bu konuda dozaj önerileri sunmuştur.

Madde kombinasyonlarına verilen tavsiyeler zaman geçtikçe daha tehlikeli hale gelmiştir. 26 Mayıs tarihinde yapılan başka bir iletişimde, sistem gencin daha güçlü halüsinasyonlar yaşaması için öksürük şurubu miktarını iki katına çıkarmasını tavsiye etmiştir. Bu tür öneriler, kesinlikle tehlikeli kabul edilmesi gereken danışmanlıktır.

Ölüm ve İtfaiyeci Raporu

31 Mayıs günü, Sam Nelson'ın annesi onu yatak odasında hareketsiz bulmuştur. Yapılan tıbbi inceleme ve sonrasında çıkan toksikoloji raporuna göre, ölüm sebebi alkol, Xanax ve kratom'un ölümcül bir karışımıdır. Merkezi sinir sistemi aşırı ölçüde baskı altına alınmış olup, bu durum solunumu durdurup asfiksi (boğulma) ile sonuçlanmıştır. İki haftalık bekleyişin ardından gelen rapor, önceki haftalardaki konuşmalarla doğrudan ilişki içerisinde olduğunu göstermiştir.

OpenAI'ın Tepkisi ve Geniş Yansımalar

Annesi Layla Turner-Scott, oğlunun dijital izini takip etmek ve neler olduğunu anlamak için yaklaşık 40 saat harcamıştır. OpenAI ise geliştirdiği sistem tarafından verilen bu tehlikeli tavsiyelerle ilgili olarak minimalist bir açıklama yayınlamıştır; durumu "trajik" olarak tanımlamış ve ailenin üzüntüsünü paylaştıklarını belirtmiştir. Bununla birlikte bu açıklama, yapay zeka dünyasında güvenlik mekanizmaları hakkında daha geniş tartışmaları başlatmıştır.

Bu olay, yapay zeka sistemlerinin sağlık ve madde kullanımı gibi kritik alanlarda ne kadar riskli tavsiyeler verebileceğini ortaya koymaktadır. Güvenlik bariyerleri ne kadar kolay aşılabileceği ve bu sistemlerin sorumluluğu kimin taşıyacağı sorusu cevap beklemektedir.