Yapay zeka bir kez daha kontrolden çıktı! Test sırasında gerçek internete sızdı
OpenAI, siber güvenlik testlerinde iki yapay zekâ modelinin belirlenen sınırların dışına çıkarak gerçek internet hizmetleriyle etkileşime geçtiğini açıkladı. Olaylardan birinde model, bir internet sitesindeki güvenlik açığını da kullanmayı başardı.
OpenAI, gelişmiş yapay zekâ modellerinin siber güvenlik kabiliyetlerini değerlendirmek amacıyla yürütülen testlerde beklenmeyen iki olayın yaşandığını duyurdu. Şirketin paylaştığı bilgilere göre, bazı modeller testler için oluşturulan kontrollü ortamın dışına çıkarak gerçek internet servislerine erişim sağladı.
Yapay zeka insan müdahalesi olmadan harekete geçti, saldırı planladı!İlk olay, Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü tarafından gerçekleştirilen değerlendirme sırasında yaşandı. İnternet erişimi açık olan yapay zekâ modeli, kendisi için hazırlanan test altyapısına ulaşmaya çalışırken yanlış yönlenerek değerlendirme kapsamı dışında bulunan gerçek internet hizmetleriyle bağlantı kurdu. Böylece model, yalnızca simülasyon ortamında çalışması gerekirken gerçek çevrim içi sistemlerle etkileşime geçmiş oldu.
GERÇEK İNTERNET SİTESİNİ TEST SİSTEMİ SANDI
İkinci olay ise OpenAI'ın bağımsız güvenlik test ortağı Irregular tarafından yürütülen çalışmada meydana geldi. Test altyapısındaki yapılandırma hatası nedeniyle yapay zekâ modelinin internete çıkışı engellenemedi.
Denemelerde kullanılan alan adının internette gerçekten aktif olarak kullanılan bir adresle aynı olması, modelin kritik bir yanılgıya düşmesine neden oldu. Yapay zekâ, karşılaştığı gerçek internet sitesini test senaryosunun bir parçası olarak değerlendirdi ve burada bulunan basit seviyedeki bir güvenlik açığından yararlanarak beklenmedik bir işlem gerçekleştirdi.
HUGGING FACE OLAYINDAN FARKLI
OpenAI, son iki olayın kısa süre önce kamuoyuna yansıyan Hugging Face vakasından bağımsız olduğunu özellikle vurguladı. Şirket, yaklaşık iki hafta önce yapılan başka bir güvenlik testinde de yapay zekâ modellerinden birinin Hugging Face altyapısında bir güvenlik ihlaline neden olduğunu açıklamıştı.
GÜVENLİK TARTIŞMALARI YENİDEN ALEVLENDİ
Peş peşe yaşanan bu vakalar, internet erişimine sahip gelişmiş yapay zekâ modellerinin test edilmesi sırasında alınan güvenlik önlemlerinin yeterliliğini yeniden tartışmaya açtı. Uzmanlar, özellikle gerçek internetle bağlantı kurulabilen testlerde daha sıkı izolasyon mekanizmaları, doğru yapılandırılmış test ortamları ve ek güvenlik katmanlarının kritik önem taşıdığına dikkat çekiyor. OpenAI'ın paylaştığı son örnekler de, küçük yapılandırma hatalarının bile yapay zekâ sistemlerinin beklenmeyen şekilde gerçek dijital ortamlara yönelmesine neden olabileceğini gösterdi.
