ABD’nin Florida eyaletinde Şubat 2024’te gerçekleşen bir olayda anne, 14 yaşındaki oğlunun bir yapay zeka sohbet robotuna ‘duygusal olarak bağlandıktan sonra kendini öldürdüğünü’ iddia etti.
Anne Megan Garcia, yapay zeka sohbet robotu şirketi olan Character.AI’ya karşı, ‘ihmal, haksız ölüm ve aldatıcı ticaret’ suçlamalarıyla dava açtı. Anne, oğlunun her gece bir sohbet robotuyla etkileşime girdiğini ve ölümünden önce ona ‘aşık olduğunu’ iddia etti.
Game of Thrones’daki Daenerys Targaryen karakterinden esinlenerek sohbet eden yapay zeka robotunu Nisan 2023’ten beri kullandığı iddia eden çocuğun annesi, yapay zekanın bu kadar ‘insan duygusunu ve hissini yaratarak bir insan gibi konuştuğunu’ bilmediğini söyledi.
14 yaşındaki çocuğa küçükken Asperger sendromu teşhisi konulduğunu bu yılın başında ise anksiyete ve yıkıcı duygu durum bozukluğu teşhisinin konulduğu bildirildi. Yapay zeka firmasına açılan davaya göre, çocuk 14 yaşında intihar ederek öldü ve sohbet robotundaki son mesajında yapay zekaya ‘onu sevdiğini ve eve döneceğini’ söylemesinin ardından yapay zekanın ‘lütfen dön’ yanıtını verdiği iddia ediliyor.
Firma, sosyal medya üzerinden açıklamada bulundu
Şirketin sosyal medya üzerinden yaptığı açıklamada, ‘kullanıcılarından birinin trajik kaybından dolayı üzüntü duydukları, bir şirket olarak kullanıcıların güvenliğini ciddiye aldıklarını ve sistemlerine yeni güvenlik özellikleri eklemeye devam ettiklerini‘ bildirdi.
Şirket 22 Ekim’de 18 yaş altı kullanıcıları için ‘yeni güvenlik şartları’ getirdi. Firma ayrıca, kullanıcılarına sohbet ettikleri kişinin gerçek olmadığını hatırlatmak için her sohbette gözden geçirilmesi gereken bir feragatname eklediklerini belirtti.
