Next
Brezilya’da 36 yaşındaki bir çiftçinin, 8 yaşındaki oğlunu öldürme, kamuya açık alanlarda saldırı düzenleme ve intihar etme planlarını iki ay boyunca ChatGPT’ye anlattığı öne sürüldü. OpenAI’ın durumu FBI’a bildirmesinin ardından şüpheli gözaltına alınırken, olay yapay zeka şirketlerinin kullanıcı konuşmalarını kolluk kuvvetleriyle paylaşması konusundaki tartışmaları yeniden gündeme taşıdı.
ChatGPT konuşmalarının ardından soruşturma başlatıldı
Brezilya’da 36 yaşındaki bir çiftçinin, iki ay boyunca ChatGPT üzerinden 8 yaşındaki oğlunu öldürmeye, kamuya açık alanlarda saldırılar düzenlemeye ve ardından intihar etmeye yönelik planlarından söz ettiği belirtildi. OpenAI’ın söz konusu yazışmaları ABD Federal Soruşturma Bürosu’na (FBI) bildirmesinin ardından bilgiler Brezilya Adalet Bakanlığı Siber Suçlar Birimi’ne aktarıldı. Şüpheli, Espírito Santo eyaletine bağlı São Gabriel’de gözaltına alındı.
Evinde şişeler ve düğümlenmiş ip bulundu
Şüphelinin evinde gerçekleştirilen aramada, içerisinde tanımlanamayan maddeler bulunan şişeler ile düğümlenmiş bir ip ele geçirildi. Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, şüphelinin nafaka ödemeleri nedeniyle yaşadığı öfke kapsamında oğlunu öldürmeyi planladığını ve risin zehri de dahil olmak üzere çeşitli tehlikeli maddeler hakkında araştırma yaptığını açıkladı.
Soruşturma kapsamında şüphelinin ChatGPT’ye kamuya açık alanlarda saldırı düzenlemeye ilişkin ifadeler de yazdığı aktarıldı. Mesajlarda, bir uyuşturucu satış noktasına giderek dört kişiyi öldürmesi halinde şehirde tanınacağı yönünde ifadelerin yer aldığı belirtildi.
54 gün sonra serbest bırakıldı
Şüphelinin avukatı Pedro Paulo Pessi ise müvekkilinin herhangi bir eylem gerçekleştirmediğini savundu. Pessi, müvekkilinin yapay zekaya yalnızca “saçma sapan şeyler söylediğini” belirterek suçlamaları reddetti. Yaklaşık 54 gün gözaltında kalan şüpheli daha sonra serbest bırakıldı. Şüpheli hakkında elektronik kelepçe ve çeşitli koruma tedbirlerinin uygulanmasına karar verildi.
Yapay zekanın ihbar yükümlülüğü tartışılıyor
Olay, yapay zeka platformlarının kullanıcıların yazışmalarında suç veya şiddet tehdidi tespit etmesi halinde kolluk kuvvetlerine bilgi aktarmasının hukuki sınırlarını yeniden gündeme getirdi. Ceza avukatı Maíra Fernandes, OpenAI’ın şüphelinin mesajlarını yetkililere iletmesine rağmen ChatGPT tarafından verilen yanıtların polise sunulmamasının deliller açısından soru işareti oluşturduğunu söyledi.
Fernandes, konuşmanın tamamı incelenmeden yapay zekanın kullanıcıyı herhangi bir eyleme yönlendirip yönlendirmediğinin değerlendirilemeyeceğini ifade etti.
Uzmanlardan “somut ve yakın risk” vurgusu
BBC’nin haberine göre dijital hukuk uzmanı Prof. Patricia Peck ise yapay zeka sistemlerinin yalnızca içerik sağlayan araçlar olmaktan çıkarak tehlikeli davranışlara ilişkin kalıpları tespit edebilen sistemlere dönüştüğünü belirtti. Peck, bu tür durumlarda aşırı gözetim riskine dikkat çekerek müdahalenin “somut ve yakın risk” bulunan durumlarla sınırlandırılması gerektiğini savundu.
Olayın ardından yapay zeka platformlarında kullanıcı gizliliği, kolluk kuvvetlerine bilgi aktarımı, dijital deliller ve olası tehditlere müdahale konularındaki hukuki çerçevenin nasıl uygulanacağı tartışılmaya başlandı.
