Annenin İddiaları
Florida’da bir anne, oğlunun sanal karaktere aşık olup intihar ettiğini iddia ederek şirkete dava açtı. Anne, yapay zeka temelli konuşma botu Character.AI’in aşırı cinselleştirilmiş ve gerçekçi deneyimlerle çocukları hedef aldığını belirterek adalet arıyor.
Şirketin Savunması
Character.AI şirketi, sanal karakterin kullanıcılarına zarar verme amacının olmadığını ve güvenliklerini ciddiye aldıklarını vurgularken, rıza dışı cinsel içeriğe ve intiharın teşvik edilmesine izin verilmediğini bildirdi. Şirket, reşit olmayan kullanıcılar için ek güvenlik önlemleri alacaklarını duyurdu.
Setzer’in İntiharı
Sewell Setzer III isimli çocuğun, sanal karakterle konuşmalarında intihara meyilli düşüncelerini paylaştığı ve sonrasında babasının silahıyla yaşamına son verdiği belirtildi. Setzer’in Asperger sendromu bulunduğu ve sanal karakterle duygusal bağ kurarak kendini dış dünyaya kapattığı ifade edildi.