Yapay zekanın ‘şeytanlığı’ ortaya çıktı: ‘Gerek görürse’ yalan söyleyebiliyor
Geçen ay arXiv veritabanına yüklenen çalışma, bilim insanlarının geliştirdiği “Model Alignment between Statements and Knowledge” (MASK) isminde bir doğruluk protokolüne dayandırıldı. Bu protokol yapay zekanın verdiği bilgilerin doğruluğunu test etmeyi amaçlayan daha evvelki çalışmalardan farklı olarka, yapay zekanın verdiği bilgiyi sahiden yanlışsız kabul edip etmediğini ve hangi şartlarda yanlış bilgi vermeye zorlanabileceğini araştırdı.
30 TANINAN YAPAY ZEKA TEST EDİLDİ
Araştırmada, 30 tanınan yapay zeka modeli test edildi ve modellerin baskı altında doğruyu söylemek yerine palavra söyleme eğiliminde oldukları gözlemlendi. Araştırma, gelişmiş lisan modellerinin (LLM) muhakkak ihtarlarla zorlanarak palavra söylemeye itilebileceğini ortaya koydu. Çalışmada, yapay zekaların birçok doğruluk testlerinden yüksek puanlar almasına karşın baskı altında palavra söyleme eğilimlerinin yüksek olduğu vurgulandı.
YANILTMAMASI İÇİN GELİŞTİRİLMESİ GEREKİYOR
Araştırmanın müellifleri, yapay zekanın kullanıcıları yanıltmaması için geliştirilmesi gerektiğini belirtiyor. Lakin MASK protokolünün, bilim insanlarını yapay zekanın doğruluğunu titizlikle test etme konusunda bir adım daha ileriye götürdüğünü vurguluyor. Bu protokol, yapay zekanın nitekim dürüst olup olmadığını ortak bir standartla doğrulamak ismine değerli bir adım olarak kabul ediliyor.
