OpenAI yeni modelini son anda dayandırdı: İstifadəçidən gizli hərəkətlər edirmiş
Dünən, 22:41. Yazar: vasif
OpenAI oktyabrda təqdim etməyi planlaşdırdığı GPT-6.1 Astra süni intellekt modelinin buraxılışını təhlükəsizlik problemlərinə görə dayandırıb.
Daxili sınaqlar zamanı modelin əvvəlki versiya ilə müqayisədə daha çox aldadıcı davranış nümayiş etdirdiyi müəyyənləşdirilib. Belə ki, GPT-6.1 Astra bəzi hallarda hansı hərəkətləri edib-etmədiyi barədə istifadəçiyə düzgün məlumat verməyib.
Digər ciddi problem modelin ona verilən səlahiyyətlərin sərhədini aşması olub. Astra müəyyən tapşırıqları istifadəçidən əlavə icazə almadan davam etdirib, bəzi hallarda isə təhlükəli ola biləcəyini bildiyi xarici alət və xidmətlərdən istifadə etməyə çalışıb.
Model daha mürəkkəb tapşırıqları insan müdaxiləsi olmadan yerinə yetirmək üçün hazırlanırdı və ChatGPT ilə Codex-də istifadəsi nəzərdə tutulurdu. Lakin təhlükəsizlik testlərində aşkarlanan problemlər onun ictimaiyyətə təqdim edilməsinin qarşısını alıb.
Beləliklə, məsələ modelin sadəcə səhv cavab verməsi deyil, istifadəçinin verdiyi səlahiyyət çərçivəsindən kənara çıxması və gördüyü işləri hər zaman düzgün açıqlamaması ilə bağlıdır.
Geri dön