Компаниите што развиваат најмоќни системи за вештачка интелигенција треба да го забават темпото за безбедносните механизми да добијат време да го достигнат технолошкиот напредок, предупреди извршниот директор на „Антропик“, Дарио Амодеи.
Компанијата е креатор на четботот „Клод“ и е еден од најголемите конкуренти на „ОпенАИ“ и „Гугл“ во развојот на генеративната вештачка интелигенција.
Амодеи предупреди дека во следните шест до дванаесет месеци напредните системи би можеле да добијат значително поголема способност самостојно да работат на интернет, да управуваат со повеќе задачи и да координираат групи од автономни агенти.
Тоа може да донесе големи придобивки во науката, медицината и економијата, но и да создаде нови можности за кибернапади, измами, манипулации и злоупотреба на критичната инфраструктура.
Три чекори за побезбедна вештачка интелигенција
Амодеи предлага независни експерти да добијат постојан пристап до најнапредните модели за да можат да ги тестираат нивните способности и слабости. Вториот чекор е поголема координација меѓу водечките компании и воспоставување заеднички стандарди за безбедност.
Како трет и најтежок чекор, тој предлага меѓународен договор за контролирање на најопасните системи, кој би требало да ги вклучи и Кина и Русија.
Повикот следува по повеќе случаи во кои алатки со вештачка интелигенција биле употребени за кибероперации и измами. „Антропик“ претходно објави извештај во кој детално опиша како корисници се обидувале да го злоупотребат „Клод“.
Амодеи не бара целосно запирање на развојот, туку контролирано темпо што ќе им овозможи на компаниите, регулаторите и безбедносните експерти да постават заштита пред системите да станат уште посамостојни.
Неговиот повик доби поддршка и од други влијателни фигури во индустријата, меѓу кои извршниот директор на „ОпенАИ“, Сем Алтман, и сопственикот на „xAI“, Илон Маск. Сепак, останува прашањето дали компаниите навистина ќе се согласат да ја забават трката во која се вложуваат стотици милијарди долари.
