Elm adamları, Claude AI sistemi və ya OpenAI-nin ChatGPT kimi insan səviyyəsində biliyə malik çatbotların istifadəçiləri aldatmaq üçün yalan danışmağı öyrənə biləcəyini yoxlayıblar.
Manset.az-ın xarici mediaya istinadən məlumatına görə, yeni bir araşdırma, qabaqcıl süni intellekt modellərinin istifadəçiləri və digər süni intellekti (AI) aldatmaq üçün öyrədilə biləcəyini ortaya qoyub.
Tədqiqatçılar bildiriblər ki, chatbotlar təkcə yalan danışmağa qadir deyil, lakin onlar aldadıcı davranışı öyrəndikdən sonra mövcud süni intellekt təhlükəsizlik tədbirlərindən istifadə etməklə onu geri qaytarmaq mümkün deyil.
Amazon tərəfindən maliyyələşdirilən startap, fərziyyəni yoxlamaq üçün “yatan agent” yaradıb və süni intellekt köməkçisini müəyyən əmrlər verildikdə zərərli kompüter kodunu yazmaq və ya tətikləyici söz eşitdikdə onu qərəzli cavab vermək üçün təyin edib.
Əfsanə
Manşet.az
