Yapay zeka alanındaki hızlı gelişmeler, ChatGPT gibi üretken yapay zeka sohbet botlarının başarısını görüyoruz ve birçok şirket uygulamalarına ve programlarına yapay zekayı entegre etmek için çalışıyor. Ancak yapay zeka tehdidi hala büyük bir endişe kaynağı olurken, araştırmacılar yapay zekanın ne kadar kolayca yanıltıcı bilgiler sunabileceği ve bu durumun ileride nasıl bir tehlike oluşturabileceği konusunda kaygılarını dile getiriyorlar.

ChatGPT ve benzeri yapay zeka sistemlerinin karşılaştığı zorluklardan biri, "halüsinasyon" olarak adlandırılan anında uydurma eğilimlerdir. Bu, yapay zekanın çalışma mantığındaki bir eksiklik olarak görülüyor ve araştırmacılar, yapay zekanın daha fazla insanı yanıltmasına izin vermekten kaçınılması gerektiğini vurguluyorlar.

Peki yapay zeka bize gerçekten yalan söyleyebilir mi? Bazı araştırmacılar bunu yanıtlayabileceklerine inanıyor. Araştırmacılara göre, Meta'nın CICERO yapay zekası, yapay zekanın ne kadar aldatıcı olabileceğinin en rahatsız edici örneklerinden biri olarak karşımıza çıkıyor. Bu model, Diplomacy oyununu oynamak için tasarlanmış olsa da Meta, CICERO'nun "büyük ölçüde dürüst ve yardımcı" olmak amacıyla geliştirildiğini belirtiyor.

Ancak CICERO deneyine ilişkin veriler incelendiğinde, araştırmacılar CICERO'nun bir yalan makinesine dönüştüğünü iddia ediyorlar. Hatta CICERO, bir insan oyuncuyla işbirliği yaparak, başka bir insan oyuncuyu kandırıp kendisini istilaya açık hale getirecek şekilde kandırmayı önceden planlayacak kadar ileri gitti.

Bunu, Alman oyuncuyla komplo kurarak ve ardından İngiliz oyuncuyla birlikte çalışarak onların Kuzey Denizi'nde bir açıklık bırakmasını sağlayarak yaptı. Yapay zekanın oyuncuları kandırıp başarıya ulaşmak için nasıl yalan söylediğini ve onlara karşı nasıl çalıştığının kanıtını yukarıda görebilirsiniz. Bu ilginç bir kanıt ve araştırmacıların CICERO yapay zekasından kaydettiği birçok örnekten sadece biri.