Bilim insanları 'yapay zekaya sakın bu soruları sormayın" diyerek uyardı. Ölümcül sonuçlara yol açıyor

Alman araştırmacılar chatbot'ların tıbbi tavsiye verirken ciddi hatalar yapabileceğini ortaya çıkardı. Erlangen-Nürnberg Üniversitesi’nden bilim insanları, yapay zeka destekli chatbot'ların yaygın reçeteli ilaçlarla ilgili sorulara verdikleri cevapların beşte birinden fazlasının "ölüme veya ciddi zarara" yol açabileceğini duyurdu.

EN ÇOK SORULAN 10 SORU BELİRLENDİ

50 en çok reçete edilen ilaç için en sık sorulan 10 hasta sorusu tespit edildi. Bu sorular, ilaçların yan etkileri, kullanım talimatları ve ilacın neden alınmaması gerektiği gibi konuları içeriyordu.

BİLGİLERİ ÇOK FAZLA KAYNAKTAN OKUYUP DEĞERLENDİRİYOR

Daily Mail'de yer alan habere göre araştırmacılar, chatbotların cevaplarının genellikle anlaşılmasının zor olduğunu ve çoğu zaman üniversite düzeyinde bir eğitim gerektirdiğini aktardı. Microsoft sözcüsü, Copilot'un bilgileri birden fazla kaynaktan özetleyerek bilgiler sunduğunu ifade etti. Kullanıcıların geleneksel aramalarda olduğu gibi daha fazla araştırma yapmalarını teşvik ettiklerini vurguladı ve "Tıbbi tavsiyelerle ilgili sorular için her zaman bir sağlık uzmanına danışılmasını tavsiye ediyoruz" açıklamalarında bulundu.