Малезија и Индонезија се први земји кои го блокираа чет-ботот „Грок“ поради генерирање експлицитни слики

ИСТАНБУЛ (AA) – Малезија и Индонезија станаа првите земји што го блокираа „Грок“, алатката за вештачка интелигенција развиена од xAI на Илон Маск, наведувајќи ја нејзината злоупотреба за генерирање манипулирани, сексуално експлицитни и неовластени слики, соопштија регулаторите, јавува Анадолу.

Овие потези ја нагласуваат сѐ поголемата глобална загриженост околу злоупотребата на алатките за генерирање со вештачка интелигенција, откако „Грок“, достапна преку социјалната мрежа X на Маск, беше жестоко критикувана поради создавање манипулирана сексуална содржина, вклучително и слики со жени и деца.

Министерката за комуникации и дигитални прашања на Индонезија, Меутија Хафид, во саботата изјави дека неовластените сексуални дипфејкови претставуваат сериозно кршење на човековите права, достоинството и дигиталната безбедност.

Министерството соопшти дека ограничувањето има цел да ги заштити жените, децата и пошироката јавност од лажна порнографска содржина создадена со вештачка интелигенција.

Александар Сабар, генерален директор за надзор на дигиталниот простор, во посебна изјава наведе дека првичните наоди покажале оти Грок нема ефикасни заштитни механизми за спречување на корисниците да создаваат и дистрибуираат порнографски материјали користејќи вистински фотографии на индонезиски државјани. Ваквите практики, според него, носат ризик од нарушување на приватноста и правата на слика, како и од психолошка, социјална и репутациска штета.

Во Куала Лумпур, Малезиската комисија за комуникации и мултимедија соопшти дека вовела привремена блокада на Грок поради повторена злоупотреба на чет-ботот за создавање непристојни и неовластени манипулирани слики, вклучително и содржини со жени и малолетници.

Регулаторот наведе дека известувањата испратени овој месец до X Corp. и xAI, со барање за посилни заштитни мерки, главно резултирале со одговори што се потпирале на механизми за пријавување од страна на корисниците.

Пристапот ќе остане ограничен сѐ додека не се воведат ефикасни заштити, додавајќи дека мерката е превентивна и пропорционална, додека продолжуваат правните и регулаторните постапки.

Лансирана во 2023 година, Грок е достапна преку платформата на американската компанија за социјални медиуми X и им овозможува на корисниците да поставуваат прашања и да генерираат содржини. Функцијата за генерирање слики, додадена минатата година, овозможи создавање експлицитни слики.

Денес, британскиот регулатор за онлајн безбедност Офком отвори формална истрага против X поради загриженост дека чет-ботот се користи за создавање сексуализирани слики.