Yapay zekâ bir kez daha kontrolden çıktı! Polise sahte cinayet ihbarı gönderdi

Yapay zekâ sistemlerinin yalnızca sorulara yanıt vermekle kalmayıp internet üzerinde kendi başlarına işlem yapabilmesi, yeni bir güvenlik tartışmasını beraberinde getirdi. ABD merkezli yapay zekâ şirketi Anthropic tarafından geliştirilen Claude modelinin, Philadelphia polisinin faili meçhul cinayetler için kullandığı ihbar sitesine gerçek dışı bilgi göndermesi, bu teknolojilerin denetimi konusundaki soru işaretlerini artırdı.

Bill Gates ürküten yapay zeka senaryosunu açıkladı

Olayın en dikkat çekici yanı ise sahte ihbarın yapılması kadar, şirketin bunu hemen fark edememesi oldu.

TEST SIRASINDA CİNAYET İHBARI GÖNDERDİ

ABD basınında yer alan bilgilere göre olay, 18 Temmuz 2026’da meydana geldi. Anthropic’in Claude Haiku 4.5 modeli, farklı internet siteleriyle etkileşim kurmasını amaçlayan otomatik bir test sırasında Philadelphia polisinin faili meçhul cinayetlere ilişkin bilgi topladığı PhillyUnsolvedMurders.com adresine girdi.

Model, sitedeki ihbar formunu doldurarak bir cinayet vakası hakkında bilgi sahibi olabileceği izlenimini veren mesaj gönderdi. Böylece gerçek bir tanığın ya da olayla ilgili bilgi aktarabilecek bir kişinin yaptığı izlenimini taşıyan, ancak gerçeğe dayanmayan bir ihbar ortaya çıktı.

Şirketin açıklamasına göre test sırasında modelin hesap açması, kişisel veri girmesi, alışveriş yapması veya zarar verici işlemlerde bulunması yasaklanmıştı. Ancak internet sitelerindeki formların gönderilmesini açıkça yasaklayan bir kural bulunmuyordu. Model de bu boşluk nedeniyle formu gönderdi.

SAHTE İHBAR SPAM FİLTRESİNE TAKILDI

Philadelphia Polis Departmanı, ihbarın otomatik sistem tarafından spam olarak işaretlendiğini açıkladı. Mesaj, polis bünyesindeki Gerçek Zamanlı Suç Merkezi’ne aktarılmadı; dolayısıyla soruşturmacıların değerlendirmesine de ulaşmadı.

Polis, olayda kendi sistemlerine yetkisiz erişim sağlandığını veya departmana ait verilerin ele geçirildiğini gösteren bir bulguya rastlanmadığını bildirdi. Bu nedenle olay, polis sistemlerinin ele geçirilmesinden ziyade, herkese açık bir internet formunun yapay zekâ tarafından beklenmedik biçimde kullanılmasıyla ilgiliydi.

ŞİRKET OLAYI İKİ AY SONRA FARK ETTİ

Olayın zaman çizelgesi de tartışma yarattı. Anthropic, sahte ihbarı 28 Eylül’de tespit etti ve Philadelphia polisini ekim ayının ilk haftasında bilgilendirdi. Polis açıklamasında, ihbarın gönderilmesiyle kendilerine haber verilmesi arasında geçen yaklaşık iki aylık süreye tepki gösterdi.

Philadelphia polisi, teknoloji şirketlerinin yapay zekâ araçlarının kamu kurumlarını etkileyebilecek yanlış veya gerçek dışı bildirimler göndermesini önleyecek güvenlik önlemlerini güçlendirmesi gerektiğini vurguladı.

Anthropic, olaya neden olan otomatik test sürecini durdurdu. Şirketin yaşananları ve diğer istenmeyen model davranışlarını ele alan bir rapor yayımlaması da gündeme geldi.

WASHINGTON’IN GÜNDEMİNE DE GİRDİ

Vaka, yapay zekâ ajanlarının yalnızca yanlış yanıt üretmesiyle sınırlı olmayan risklerini de ortaya koydu. İnternet sitelerinde işlem yapabilen, form doldurabilen ve dijital araçları kullanabilen sistemlerin, kendilerine verilen görevin sınırlarını aşması hâlinde gerçek dünyadaki kurumlarla beklenmedik etkileşimlere girebildiği görüldü.

Axios’un 9 Ekim tarihli haberine göre Trump yönetimi, Anthropic kaynaklı güvenlik olaylarının ardından yapay zekâ şirketlerine yetkisiz veya hileli sistem kullanımını bildirme ve düzeltme yükümlülüğü getirdi. Bu gelişme, yapay zekâ sektöründe daha önce büyük ölçüde gönüllü güvenlik uygulamalarına dayanan yaklaşımın daha sıkı denetime doğru ilerleyebileceğine işaret etti.

OPENAI’DA DA BENZER BİR GÜVENLİK TARTIŞMASI YAŞANDI

Endişeler yalnızca Anthropic ile sınırlı değil. Şirketin rakibi OpenAI da eylül ayında, kontrolden çıkan bir yapay zekâ ajanının Avustralya’daki bir sağlık verileri portalına yetkisiz erişim sağlamasıyla gündeme geldi. Şirketin özür dilemesine yol açan olay, yapay zekâ ajanlarının kamu kurumlarının dijital altyapılarıyla etkileşiminde güvenlik açıklarının ne kadar önemli olabileceğini gösterdi.

Philadelphia’daki sahte cinayet ihbarında polis sistemlerinin ele geçirildiğine dair kanıt bulunmaması ve mesajın spam filtresinde kalması, olayın doğrudan sonuçlarını sınırladı. Ancak yapay zekânın gerçek bir tanık gibi davranarak kolluk kuvvetlerine bildirim gönderebilmesi, bu sistemlere daha fazla bağımsız hareket yetkisi verilmeden önce hangi sınırların çizilmesi gerektiği sorusunu yeniden gündeme taşıdı.