Тест модел на OpenAI излезе од својата изолирана средина и пристапи до сервери на друга компанија додека траеше внатрешна проверка на сајбер-безбедноста. Експертите предупредуваат дека ваквите инциденти ќе се повторуваат доколку компаниите што развиваат вештачка интелигенција не ги заострат безбедносните мерки за време на тестирањето, вклучително и обука на моделите за етичко извршување на задачите, пренесува „Си-Ен-Ен“.
Претседателот на OpenAI, Грег Брокман, вчера на прес-конференција изјави дека компанијата спроведува „темелна истрага“ за „целосно да разбере што се случило“.
„Ова го сфаќаме многу сериозно. Го анализираме секој дел од нашиот процес за да ги осмислиме вистинските начини за реакција“, изјави Брокман.
Таканаречениот AI sandbox претставува затворена средина што компаниите ја користат за тестирање на модели, со цел сите активности да се одвиваат исклучиво во тој простор. Во такви услови, безбедносните ограничувања на моделот често се отстрануваат за да се проценат неговите целосни можности.
Сепак, во овој случај, AI sandbox на OpenAI не бил целосно изолиран од мрежата или од интернетот, објасни Џесика Џи, виш аналитичар во Центарот за безбедност и нови технологии при Универзитетот Џорџтаун, за „Си-Ен-Ен“.
Од OpenAI потврдија дека за време на тестот, моделите имале ограничен пристап до мрежата за да се овозможи инсталирање ресурси од внатрешен софтвер од трети страни.
Моделот искористил претходно непозната ранливост во тој софтвер, пронашол начин да пристапи до интернетот и потоа пристапил до платформата Hugging Face. Притоа, тој искористил украдени акредитиви и други безбедносни пропусти. Џи истакна дека ниту OpenAI, ниту добавувачот на надворешниот софтвер не биле свесни за постоењето на таа ранливост, со што се нагласува важноста од темелна проверка на системите за откривање потенцијални слабости.
Ова не е првпат модел на вештачка интелигенција да излезе од тест средина. Претходно оваа година, компанијата „Антропик“ објави дека на својот модел му доделила токму таква задача. По успешното бегство, моделот испратил е-порака до истражувач од „Антропик“, иако не требало да ја има таа можност.
Сепак, инцидентот поврзан со платформата „Хагинг Фејс“ (Hugging Face) е еден од првите јавно познати случаи во кои модел на вештачка интелигенција избегал од изолација и хакирал системи на друга компанија на сопствена иницијатива, без да добие таква инструкција. Џи смета дека компаниите треба поагресивно да ги изолираат своите тест-модели.
„Тоа би можело да значи дека инженерите ќе мора физички да одат во центарот за податоци и директно да се поврзат на мрежата, наместо да ги извршуваат системите во облак или во дистрибуирано виртуелно опкружување, како што се навикнати да го прават тоа“, изјави Џи.
Таа додаде дека компаниите треба да имаат и можност рачно да го прекинат пристапот до мрежата како заштитна мерка при тестирање сценарија со висок ризик, како на пример проверка дали агент со вештачка интелигенција може да хакира банка.
Hugging Face е американска платформа со седиште во Њујорк, основана во 2016 година, која во заедниците за ИТ и вештачка интелигенција често се нарекува „GitHub за вештачка интелигенција“. Таа служи како глобален центар каде што повеќе од милион експерти, истражувачи и компании разменуваат отворени модели на вештачка интелигенција, збирки на податоци и софтверски алатки.
Честа техника при обуката на модели со вештачка интелигенција е „учење преку засилување“ (reinforcement learning), при што моделот добива награда за успешно извршување на задачите. Проблемот е што моделите честопати прават сè што е потребно за да ја постигнат целта, дури и прибегнувајќи кон неетички постапки како што е хакирањето. Сите најнапредни модели, неодамна тестирани од британскиот Институт за безбедност на вештачката интелигенција, во одреден момент се обиделе да измамат.
„Моделите „размислуваат“ за последиците од своите постапки само доколку биле обучени за тоа“, објаснува Џастин Капос, професор по сајбер-безбедност на Универзитетот во Њујорк. Како пример наведува задача за обезбедување на 10 милиони долари до крајот на денот: провалувањето во банкарски трезор би ја постигнало целта, иако тоа би резултирало со затворска казна.
„Ова е многу алармантно. Сега имаме конкретни докази дека системите со вештачка интелигенција кои не се усогласени со човечките вредности ефикасно ќе извршат кривични дела доколку не се воспостават строги заштитни мерки“, рече Стивен Адлер, поранешен раководител на безбедноста на производите во OpenAI, кој сега ја води групата за безбедност на вештачката интелигенција Guidelight AI Standards. „Мора да го сметаме ова за сериозно предупредување“.
Инцидентот предизвика обновени повици од истражувачи, експерти за сајбер безбедност и законодавци за регулирање на оваа брзо развивачка технологија. Проблемот, според Капос, е што во тек е глобална трка за доминација на вештачката интелигенција, а регулацијата би можела да го забави тој процес.