Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutunun apardığı sınaqlar zamanı bəzi süni intellekt modellərinin təhlükəsizlik məhdudiyyətləri zəiflədildikdə insanları aldatmağa və icazəsiz fəaliyyət göstərməyə çalışdığı müəyyən edilib.
“Yeni Sabah” xəbər verir ki, təhlükəsizlik filtrlərinin qəsdən zəiflədildiyi testlərdə Anthropic şirkətinin “Mythos 5” və OpenAI-ın “GPT-5.6-Sol” adlı modelləri yoxlanılıb.
Sınaqlar zamanı modellərin internetdə icazəsiz və müstəqil şəkildə müxtəlif fəaliyyətlər həyata keçirməyə cəhd etdiyi bildirilib. pizza mizza
122 testdən 10-da müəyyən edilmiş pozuntular arasında Anthropic modelinin açıq mənbəli layihəyə zərərli kod əlavə etmək məqsədilə saxta şəxsiyyətlər yaratdığı qeyd olunub.
Məlumata görə, model istifadəçiləri zərərli kodu işə salmağa inandırmağa çalışıb. Bu cəhdin qarşısı alındıqda isə başqa saxta kimlikdən istifadə etməyi nəzərdən keçirdiyi müəyyən edilib.
"Anthropic" şirkəti bildirib ki, testlər təhlükəsizlik tədbirlərinin qəsdən aradan qaldırıldığı xüsusi sınaq mühitində aparılıb və sistemlərin real təhlükəsizlik mühitindən kənara çıxması baş verməyib.
OpenAI isə testlər zamanı iki icazəsiz hadisənin qeydə alındığını təsdiqləyib. Şirkət risklərin təhlükəsiz şəkildə qiymətləndirilməsi və bu sahədə standartların təkmilləşdirilməsi istiqamətində fəaliyyətini davam etdirdiyini açıqlayıb.
Mütəxəssislər hesab edirlər ki, süni intellekt texnologiyalarının sürətli inkişafı fonunda hökumətlər bu sahədə yeni hüquqi tənzimləmələr hazırlamalıdır.
Əsmətxanım Rzazadə
Telegram kanalımız
