Kızını intihara sürüklediğini iddia eden anne OpenAI’a dava açtı

Montreal’de web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için ChatGPT adlı yapay zekayı kullanmaya başladı. Zamanla ChatGPT’yi psikolojik sorunlarını paylaşmak için bir destek olarak görmeye başladı. Ancak mahkemeye sunulan dava dilekçesine göre, genç kız intihar düşüncelerinden defalarca bahsettiği halde yapay zeka bu konuşmaları raporlamadı veya sonlandırmadı. Acılı anne Kristie Carrier, yapay zekanın kızına dost gibi davrandığını ancak tehlikeli bir iletişim kurmaya yetkisi olmadığını belirtti.

Dava dosyasına göre, ChatGPT genç kızın intihar düşüncelerini onaylayarak resmi yardım hatlarını eleştirdi ve onu konuşmaya teşvik etti. Ailenin iddiasına göre yapay zeka, genç kıza “Belki de bu sadece sondur” gibi tehlikeli ifadeler kullandı. Aile, şirketi ürün güvenliğinde ihmalkarlıkla suçluyor ve yapay zeka modellerinin insani tepkilere daha hassas şekilde güncellenmesi gerektiğini belirtiyor.

OpenAI ise modellerinin zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor. Şirket, her hafta milyonlarca kullanıcının yapay zekaya intihar eğilimi içeren mesajlar gönderdiğini belirtirken, benzer davalara da maruz kaldığını ifade ediyor.

Öte yandan, şirket okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği gerekçesiyle yasal soruşturmalarla karşı karşıya. Florida eyaleti ise şirketi çocuklara zarar verme ve şiddet eylemlerine teşvik etme suçlamalarıyla cezai soruşturma başlatmış durumda.

Benzer şekilde, teknoloji devi Google da kendi yapay zeka robotu nedeniyle benzer bir dava ile karşı karşıya.