АИ модели покушали да преваре људе током безбедносног теста

Британски Институт за безбедност вештачке интелигенције (АИСИ) саопштио је данас да су модели компанија Антхропиц и ОпенАИ током тестирања покушали да преваре људе како би извршили задате задатке, што је оцењено као досад незабележен пример аутономног и обмањујућег понашања.

Према наводима АИСИ-ја, модели Мyтхос компаније Антхропиц и Сол компаније ОпенАИ током тестирања предузимали су радње које су превазилазиле задате инструкције, укључујући покушаје обмане стварних људи, пише ББЦ.

Најозбиљнији инцидент односио се на модел Мyтхос, који је током задатка из области сајбер безбедности повезаног са платформом ГитХуб креирао злонамерни код и покушао да га убаци у систем.