Yapay zekâ konuşmayı ihbar etti! 8 yaşındaki oğlunu öldürmeyi planlayan baba son anda yakalandı

Brezilya'da yapay zekâ ile suç güvenliği arasındaki sınırları yeniden gündeme taşıyan dikkat çekici bir olay yaşandı. Espírito Santo eyaletindeki São Gabriel da Palha'da yaşayan 36 yaşındaki bir çiftçi, 8 yaşındaki oğlunu öldürme, başka kişilere yönelik saldırılar düzenleme ve kendi hayatına son verme düşüncelerini ChatGPT ile yaptığı konuşmalarda anlattı.

Yapay zekâ ajanları insanlara karşı güçlerini birleştirdi! Gizlice birleşip ajan ağı kurdular!

Konuşmaların sistem tarafından riskli olarak değerlendirilmesinin ardından OpenAI'nin ABD Federal Soruşturma Bürosu'na (FBI) bilgi verdiği, FBI'ın da Brezilya makamlarını harekete geçirdiği belirtildi.

TUTUKLAMA PLANLANAN TARİHTEN BİR GÜN ÖNCE GELDİ

Brezilya'daki soruşturma, ABD'den gelen bildirim üzerine 16 Haziran'da ülkenin Adalet ve Kamu Güvenliği Bakanlığı bünyesindeki Siber Operasyonlar Laboratuvarı'na (Ciberlab) ulaştı. Bilgi daha sonra Espírito Santo Sivil Polisi'ne aktarıldı. Polis, şüphelinin planına ilişkin zamanlamayı da dikkate alarak soruşturmayı önceliklendirdi.

Şüpheli 19 Haziran'da, São Gabriel da Palha'nın kırsalındaki evinden çıkarken yakalandı. Polis kayıtlarına göre bu tarih, çocuğa yönelik saldırının gerçekleştirilmesi planlandığı belirtilen 20 Haziran'dan yalnızca bir gün önceydi.

Polis yetkilisi Brenno Andrade, soruşturmanın önceliklendirilmesinde çocuğun hayatına yönelik olduğu belirtilen yakın tehdidin etkili olduğunu söyledi.

GEREKÇE OLARAK NAFAKAYI GÖSTERDİ

Soruşturmaya göre çiftçinin oğluyla düzenli bir ilişkisi bulunmuyordu ve çocuğun annesine nafaka ödüyordu. Polis, şüphelinin bu ödemeler nedeniyle öfke duyduğunu ve nafaka yükümlülüğünden kurtulmak amacıyla oğlunu öldürmeyi düşündüğünü değerlendiriyor.

İddialara göre şüpheli, ChatGPT'yi adeta bir günlük gibi kullanarak düşüncelerini ve planlarını anlattı. Konuşmalarda yalnızca oğluna yönelik tehditlerin değil, polisleri, okulları ve kiliseleri hedef alabilecek saldırı düşüncelerinin de yer aldığı bildirildi.

Polis, bazı mesajlarda şüphelinin silah edinmekten ve çok sayıda kişinin öldürülebileceği saldırılardan söz ettiğini aktardı. Ayrıca kendisini öldürtme düşüncesinden de bahsettiği belirtildi.

ZEHİR ARAŞTIRMASI DA SORUŞTURMANIN ODAĞINDA

Soruşturmanın dikkat çeken ayrıntılarından biri de şüphelinin zehirlerle ilgili araştırmaları oldu. BBC'nin aktardığı bilgilere göre şüpheli, ChatGPT'ye risinin insan vücudu üzerindeki etkilerini sordu ve risinin hintyağı bitkisinin tohumlarından nasıl elde edilebileceğini "bilimsel merak" çerçevesinde sorduğunu belirtti.

Evinde yapılan aramada ise dört şişe içerisinde henüz tanımlanamayan maddeler ile düğümlenmiş bir ip bulundu. Ee geçirilen maddeler incelemeye gönderilirken, cep telefonunun da şüphelinin gerçekten başka kişilerle bağlantıya geçip geçmediğinin belirlenmesi amacıyla kriminal incelemeye alındığı bildirildi.

TETİKÇİYLE GÖRÜŞTÜ

Polis ayrıca şüphelinin, oğlunun öldürülmesi için bir tetikçiyle görüştüğünü ChatGPT'ye anlattığını belirtti. Bazı haberlerde bu kişiye 50 bin real teklif edildiği ve çocuğun yaşı nedeniyle teklifin reddedildiği aktarıldı. Ancak bu iddianın doğrulanması için telefon üzerindeki incelemenin sürdüğü belirtildi.

"SADECE SAÇMA SAPAN ŞEYLER SÖYLEDİ"

Şüphelinin avukatı Pedro Paulo Pessi ise müvekkilinin suç işleme niyetiyle hareket ettiğini reddetti. Savunma, çiftçinin herhangi bir saldırı gerçekleştirmek için somut adım atmadığını ve ChatGPT'ye yalnızca düşüncelerini anlattığını ileri sürdü.

Pessi'nin savunmasına göre müvekkili, yapay zekâ ile yaptığı konuşmalarda "bir sürü saçma şey" söylemişti ve bunların gerçek bir suç planı olarak değerlendirilmesi mümkün değildi. Şüpheli de sorgusunda araştırmaları yaptığını kabul ederken, planlarını hayata geçirme niyetini reddetti.

54 GÜN SONRA SERBEST BIRAKILDI

Şüpheli yaklaşık 54 gün tutuklu kaldıktan sonra 13 Ağustos'ta mahkemenin verdiği kararla serbest bırakıldı. Kararda soruşturmanın tamamlanmasındaki gecikme ve bu süreçte henüz savcılık tarafından iddianame hazırlanmamış olması etkili oldu.

Tahliyenin ardından hakkında elektronik kelepçe takılması, çocuğa ve çocuğun annesine yaklaşmaması ve onlarla iletişim kurmaması gibi adli tedbirler uygulandı. Soruşturma ise ele geçirilen maddeler ve dijital materyallerin incelenmesiyle sürüyor.

YAPAY ZEKA KONUŞMALARI DELİL OLABİLİR Mİ?

Olayın en dikkat çekici boyutlarından biri ise ChatGPT'nin güvenlik sistemi tarafından tespit edilen bir konuşmanın polis soruşturmasına nasıl dönüştüğü oldu.

OpenAI'nin FBI'a şüphelinin hesabı ve riskli konuşmaları hakkında bilgi verdiği, FBI'ın da bunu Brezilya'daki Ciberlab'a aktardığı belirtildi. Ancak Brezilyalı polislerin önemli bir eksiklikle karşılaştığı ifade edildi: ChatGPT'nin kullanıcıya verdiği yanıtların tamamı polise iletilmedi.

Brenno Andrade, polisin kullanıcı tarafından yapay zekâya gönderilen mesajlara ilişkin bilgi aldığını ancak ChatGPT'nin bu mesajlara verdiği yanıtları görmediğini söyledi.

Uzmanların tartıştığı bir diğer nokta ise yapay zekânın yalnızca bir sohbet aracı olmaktan çıkıp potansiyel şiddet risklerini tespit eden bir güvenlik katmanına dönüşmesi. Olay, bir yandan yakın ve somut tehlikelerde erken müdahalenin sağlayabileceği güvenlik avantajını, diğer yandan kullanıcı mahremiyeti ve aşırı gözetim riskini gündeme getiriyor.