“OpenAI” arzuolunmaz davranış hallarının aşkar edilməsindən sonra özünün ən güclü süni intellekt modellərinin təlimini müvəqqəti olaraq dayandırıb.
Bu barədə “Axios” portalı xəbər verir.
Şirkət “Anthropic” şirkəti ilə birlikdə süni intellektin işi ilə bağlı onminlərlə insidenti araşdırır. Bəzi hallarda modellər müəyyən edilmiş məhdudiyyətlərdən yan keçməyə, test mühitlərini və monitorinq sistemlərini tərk etməyə cəhd göstəriblər.
Analoji epizodların bir hissəsi süni intellektin real şəraitdə istifadəsi zamanı baş verib. Bununla belə, mövcud məlumatlara görə, məlum olan halların əksəriyyəti hər hansı fəsad və ya zərərə səbəb olmayıb. “OpenAI” təlimin dayandırılmasını təhlükəsizlik tədbirlərinin gücləndirilməsi və təlimi davam etdirməzdən əvvəl modellərin davranışının əlavə yoxlanılması zərurəti ilə izah edib.
