ChatGPT’ye oğlunu öldürme planını anlattı: Brezilya’da tutuklandı

Brezilya’da 36 yaşındaki bir çiftçi, ChatGPT ile yaptığı görüşmelerde 8 yaşındaki oğluna ve başka kişilere zarar verme planlarından bahsettiği iddiasıyla gözaltına alındı. OpenAI’ın ciddi ve yakın bir tehdit tespit ederek durumu FBI’a bildirdiği, ardından Brezilyalı makamların soruşturma başlattığı belirtildi. Şüpheli ise oğluna zarar verme niyetinde olduğu yönündeki iddiaları kabul etmedi.

ChatGPT konuşmaları soruşturmanın başlangıcı oldu

BBC News Brasil’in aktardığı bilgilere göre olay, Espírito Santo eyaletindeki São Gabriel da Palha kentinde meydana geldi. 36 yaşındaki çiftçinin yaklaşık iki ay boyunca ChatGPT ile yaptığı görüşmelerde oğlu, başka kişiler ve kendisiyle ilgili şiddet içerikli planlardan söz ettiği öne sürüldü.

OpenAI tarafından yapılan değerlendirmede, görüşmelerde başkalarına yönelik ciddi ve yakın bir zarar verme riski bulunduğu sonucuna varıldığı ve durumun FBI’a bildirildiği aktarıldı.

FBI’ın da elde edilen bilgileri Brezilya makamlarına iletmesinin ardından yerel polis soruşturma başlattı.

Evinde dikkat çeken materyaller bulundu

Brezilyalı yetkililerin soruşturma kapsamında şüphelinin evinde arama yaptığı ve çeşitli maddeler içeren şişeler ile düğümlenmiş bir ip bulduğu belirtildi.

Polis, şüphelinin yapay zekâ sohbetlerinde yalnızca oğluna yönelik tehditlerden değil, farklı kişi ve kurumlara yönelik olası saldırılardan da bahsettiğini ileri sürdü.

Soruşturmacılar ayrıca çiftçinin zehirli maddeler hakkında araştırmalar yaptığını ve ChatGPT’nin güvenlik sistemlerini aşabilmek için sorularını farklı biçimlerde yönelttiğini iddia etti.

Şüpheli suçlamaları reddetti

Gözaltına alınan çiftçi, 8 yaşındaki oğluna zarar vermek istediği yönündeki iddiaları reddetti.

Şüphelinin avukatı Pedro Paulo Pessi ise müvekkilinin bir yapay zekâ sohbet robotuyla yaptığı konuşmaların tek başına suç teşkil edemeyeceğini savundu. Avukata göre, dijital ortamda gerçekleştirilen bir konuşmanın hukuki açıdan değerlendirilmesinde konuşmanın tamamı ve olayın diğer unsurları dikkate alınmalı.

54 gün sonra serbest bırakıldı

Şüpheli yaklaşık 54 gün gözaltında kaldıktan sonra 13 Ağustos’ta serbest bırakıldı. Serbest bırakılma kararında soruşturmadaki gecikmelerin etkili olduğu belirtildi.

Bununla birlikte soruşturmanın henüz tamamlanmadığı ve çiftçi hakkında bu aşamada resmi bir suçlama yöneltilmediği aktarıldı.

Serbest bırakılmasının ardından hakkında elektronik izleme uygulanmasına karar verildi. Ayrıca oğluyla ve çocuğun annesiyle iletişim kurmasına yönelik kısıtlamalar getirildi.

Polis telefonunu incelemeye aldı

Brezilyalı soruşturmacılar, şüphelinin cep telefonunda inceleme yaparak ChatGPT konuşmalarında yer alan ifadelerin ötesinde gerçek dünyada herhangi bir hazırlık veya girişimde bulunup bulunmadığını araştırıyor.

Evde ele geçirilen materyallerin de adli incelemeye gönderildiği bildirildi.

Bu incelemelerin, şüphelinin yapay zekâ ile gerçekleştirdiği konuşmaların yalnızca düşünce veya tehdit ifadelerinden ibaret olup olmadığının ve bunların somut bir eylem hazırlığıyla bağlantısının bulunup bulunmadığının belirlenmesi açısından önem taşıdığı belirtiliyor.

Yapay zekâ konuşmaları mahkemede delil olabilir mi?

Olay, yapay zekâ platformlarının şiddet tehdidi içeren konuşmaları tespit ettiğinde nasıl hareket etmesi gerektiği konusunda yeni bir tartışma başlattı.

OpenAI, BBC’ye yaptığı açıklamada, başkalarına zarar verme konusunda güvenilir ve yakın bir risk tespit edilmesi durumunda kolluk kuvvetlerine bildirim yapılabileceğini belirtti.

Hukuk uzmanları ise yapay zekâ ile gerçekleştirilen görüşmelerin mahkemelerde değerlendirilmesi sırasında yalnızca belirli cümlelere odaklanılmaması gerektiğine dikkat çekiyor. Konuşmanın tamamının, kişinin diğer davranışlarının ve elde edilen fiziksel ya da dijital delillerin birlikte değerlendirilmesi gerektiği ifade ediliyor.

Dava, aynı zamanda yapay zekâ sohbetlerinin gizliliği, kullanıcı güvenliği ve olası suç tehditlerinde teknoloji şirketlerinin sorumluluğu konularını da gündeme taşıyor.

Soruşturmanın devam ettiği ve Brezilyalı makamların şüphelinin ChatGPT’deki ifadelerinin gerçek bir eylem hazırlığıyla bağlantılı olup olmadığını araştırdığı bildirildi.