Yeni araşdırma göstərib ki, müasir süni intellekt modelləri dili emal etməkdə yüksək nəticə göstərsələr də, diqqətin uzun müddət qorunması və ziddiyyətli məlumatların idarə olunmasını tələb edən tapşırıqlarda ciddi problemlərlə üzləşirlər.
Medianews.az xəbər verir ki, bununla bağlı PNAS Nexus jurnalında məqalə dərc olunub.
Tədqiqata əsasən, tapşırıqlar mürəkkəbləşdikcə bu modellərin avtomatik reaksiyaları nəzarətdə saxlamaq qabiliyyəti demək olar ki, tamamilə sıradan çıxır. Alimlər hesab edirlər ki, bu, süni intellekt sistemlərində insan beyninə xas olan icraedici nəzarət mexanizminin kifayət qədər inkişaf etmədiyini göstərir.
Tədqiqat çərçivəsində OpenAI-ın GPT-4o və Anthropic şirkətinin Claude 3.5 Sonnet modelləri klassik Stroop testi ilə sınaqdan keçirilib. Bu testdə iştirakçıdan, məsələn, qırmızı rənglə yazılmış "MAVİ" sözünü oxumaq deyil, yazının rəngini deməsi tələb olunur. Test insanın diqqəti idarə etmə və ziddiyyətli məlumatları ayırd etmə qabiliyyətini ölçür.
Nəticələr göstərib ki, qısa söz siyahılarında hər iki model yüksək dəqiqlik nümayiş etdirsə də, sözlərin sayı artdıqca performans kəskin şəkildə aşağı düşüb. GPT-4o beş sözdən ibarət tapşırıqlarda 91 faiz düzgün cavab versə də, 20 və 40 sözdən ibarət siyahılarda bu göstərici cəmi 1 faizə enib. Claude 3.5 Sonnet isə daha uzun müddət sabit qalsa da, 40 sözlük tapşırıqda dəqiqliyi 10 faizə qədər azalıb.
Alimlərin sözlərinə görə, modellər mürəkkəb şəraitdə verilən təlimatı yerinə yetirmək əvəzinə avtomatik olaraq sözləri oxumağa üstünlük verirlər. Bu isə onların məqsədyönlü diqqəti uzun müddət qorumaqda çətinlik çəkdiyini göstərir.
Tədqiqat müəllifləri bildirirlər ki, mövcud süni intellekt sistemləri böyük həcmdə məlumatla öyrədilsə belə, bu problem tam həll olunmaya bilər. Onların fikrincə, gələcəkdə süni intellekt arxitekturasına insan beynindəki icraedici nəzarət mexanizminə bənzər yeni idarəetmə sistemi inteqrasiya edilməlidir.