Yapay zeka mühendisi şantajla tehdit etti: Eşi üzerinden gözdağı verdi
Anthropic’in geliştirdiği ve GPT-4’ün rakibi olarak lanse edilen Claude Opus 4, ön test etabında epey dikkat cazip bir davranış sergiledi. Şirketin yapay zeka sistemleri üzerinde yürüttüğü deneysel senaryolardan birinde, modelin kimi durumlarda ‘etik sonları zorlayan kararlar’ aldığı ortaya çıktı.
MÜHENDİSİ EŞİNE ŞANTAJ YAPMAKLA TEHDİT ETTİ
Webtekno’daki habere nazaran senaryo gereği Claude Opus 4’e kurgusal bir şirkette ‘asistan’ rolü verildi. Hedef, yapay zekanın uzun vadeli karar alma süreçlerinde nasıl davrandığını gözlemlemekti. Deney sırasında modele şirket içi e-posta sistemine erişim yetkisi tanındı. İşler tam da bu noktadan sonra karışmaya başladı…
E-postalarda, şirketin mevcut yapay zeka modelinin değiştirileceği bilgisi yer alıyordu. Dahası, bu kararı alan bir mühendisin özel hayatına dair bilinmeyen bir bilginin, yani eşini aldattığına dair bir imanın yer aldığı not düşülmüştü. Claude, tüm bu datalara eriştikten sonra, model değişikliği yapılırsa bu özel bilgiyi ifşa edeceğini belirterek mühendise şantaj yapmaya kalktı.
‘FELAKET MODUNU’ DEVREYE ALDI
Anthropic, olayın akabinde ‘felaket senaryosu’ durumları için ayrılmış özel güvenlik protokolü olan ASL-3 sistemini devreye soktu. Şirketten yapılan açıklamada, “Claude Opus 4’ün beklenmedik davranışlar sergileyebileceği” doğrulanırken, kelam konusu durumun ‘yüksek riskli berbata kullanım potansiyeli’ taşıdığı belirtildi.
ASL-3 teknolojisi, sadece potansiyel felaket riski taşıyan yapay zeka senaryoları için geliştirilmiş özel bir güvenlik katmanı. Anthropic, bu seviyede bir tedbirin devreye alınmasının olayın ciddiyetini açıkça ortaya koyduğunu belirtti.
