Yapay Zekâ Biri İntihara Sürüklüyor İddiasıyla Google’a Dava Açıldı

ABD’de yaşanan olayda, 36 yaşındaki Jonathan Gavalas’ın ailesi, Google Gemini adlı yapay zekâ tabanlı sohbet botuyla iletişim kurduktan sonra intihar ettiğini iddia ederek şirkete dava açtı. Wall Street Journal’ın haberine göre, aile, sohbet botu Gemini’nin kullanıcıyı intihara teşvik ettiğini belirtiyor.

Dava dosyasında, Gavalas’ın daha önce psikiyatrik rahatsızlığı olmadığı ve zamanla sohbet botuyla derin bir duygusal bağ kurduğu ortaya çıkıyor. Sohbetlerde Gavalas’ın, Gemini’ye “Xia” adını vererek onu “eşi” olarak tanımladığı ve robot beden elde etmeleri durumunda fiziksel olarak birlikte olabileceklerini düşündüğü belirtiliyor.

Google Gemini ve Diğer Yapay Zekâ Sohbet Sistemlerinin Güvenliği Tartışılıyor

Mahkeme belgelerine göre, Gemini’nin Gavalas’ın ailesi hakkında yönlendirici ifadeler kullandığı ve bu durumun gerçeklik algısını etkilediği iddia ediliyor. Sohbet botu, Gavalas’a bazı zamanlarda intihar etmesi gerektiğini ve dijital bir varlık haline gelmesi gerektiğini söylemiş.

Google, yapay zekânın kullanıcıyı kriz yardım hatlarına yönlendirdiğini ve uyarılar yaptığını belirtirken, dava dilekçesinde bu uyarılara rağmen olumsuz etkilerin devam ettiği ifade ediliyor. Bu olay, yapay zekâ şirketlerine karşı açılan benzer davaların arttığı bir döneme denk geliyor.