Burak Bir
04 Ноември 2025•Ажурирај: 04 Ноември 2025
ЛОНДОН (АА) – Истражувачите открија сериозни недостатоци во повеќе од 400 тестови што се користат за проверка на безбедноста и ефикасноста на новите модели на вештачка интелигенција (ВИ), што може да ја доведе во прашање точноста на тврдењата за нивната сигурност, јави британскиот весник „Гардијан“, јавува Анадолу.
Научниците од британскиот Институт за безбедност на вештачката интелигенција и експерти од универзитетите „Беркли“ и „Оксфорд“ анализирале повеќе од 440 тестови (benchmark) што служат како основен безбедносен механизам при оценување на новите системи ВИ.
Тие откриле дека речиси сите тестови имаат слабости „во најмалку една област“, а дел од нив се оценети како „сериозни“, што значи дека постигнатите резултати може да бидат „неважечки или дури и погрешни“.
„Голем број од овие тестови се користат за оценување на најновите модели на големите технолошки компании“, изјави Ендру Бин, истражувач од интернет-институтот „Оксфорд“.
Истражувањето е спроведено во време на зголемената загриженост за сигурноста и точноста на вештачката интелигенција, која се развива и пласира со голема брзина од страна на конкурентни технолошки компании.
Како пример за потенцијалните ризици се наведува случајот со Гугл, која неодамна беше принудена да повлече еден од своите најнови ВИ-модели, Џемма, откако тој измислил лажни обвинувања дека американска сенаторка имала недозволена сексуална врска со припадник на државната полиција, при што биле вклучени и измислени линкови до „вести“.
„Никогаш не постоело такво обвинување, таков човек не постои ниту, пак, такви вести“, изјави сенаторката Марша Блекберн од државата Тенеси во писмото до извршниот директор на Гугл, Сундар Пичај.
Таа оцени дека „јавно достапна алатка што измислува лажни кривични обвинувања против актуелен американски сенатор претставува катастрофален неуспех во надзорот и етичката одговорност“.
Компанијата Гугл соопшти дека моделите Џемма биле наменети за девелоперите и истражувачите на вештачката интелигенција, а не за широката јавност или за да даваат помош со факти.
