Yapay zekada artan tehlike: "Aileni öldür" diyen sohbet botuna dava!

Texas'ta bir aile, otizmli oğullarında davranışsal değişikliklere yol açtığını iddia ettiği Character.AI'ya dava açtı. Başka bir aile ise çocuklarının cinsel içeriklere maruz kalması nedeniyle uygulamanın kapatılmasını talep ediyor.


The Washington Post gazetesinin haberine göre, Texas'ta bir aile, yapay zeka temelli konuşma uygulaması Character.AI uygulamasının sohbet botlarıyla konuşan 17 yaşındaki otizmli oğlunda, fiziksel ve davranışsal "gariplikler" tespit etti.

Çocuklarının telefonuna bakan aile, Character.AI ile yapılan sohbetlerde botların, "ekran süresi kısıtlandığı için üzgün olan çocuğa" "ailesinin çocuğa sahip olmayı hak etmediği" yanıtını verdiğini gördü. Ailenin ekran görüntüsü aldığı mesajlarda, yapay zeka botun çocuğa, üzüntüyle başa çıkmak için "kendisini kesmesini" önerdiği belirlendi.

Character.AI uygulamasına dava açan ailesi, bir botun ailenin kurallarına karşı savaşmasını tavsiye ettiği, başka bir botun ise aileyi "öldürmenin makul bir karşılık olabileceği" yanıtını verdiğini iddia etti.

Character.AI, son dönemlerde karşı karşıya kaldığı davalarla dikkati çekerken Texas'ta bir başka aile de bu davaya müdahil oldu.İkinci davacı aile ise uygulamanın çocuklarını uygun olmayan ürünlere maruz bıraktığını iddia ederek, dava da Character.AI'ın çocukları korumak için daha güçlü tedbirler alana kadar kapatılmasını talep etti.

Aile, 11 yaşında kız çocuklarının, iki yıl boyunca "cinsel içeriğe" maruz kaldığını ileri sürdü. Öte yandan, ekim ayında ise Florida eyaletinde bir aile oğlunun sanal karaktere aşık olup intihar ettiği iddiasıyla dava açmıştı.