„Гугл“ привремено го отстрани својот нов модел на вештачка интелигенција, „Џема“ (Gemma), од својата платформа „АИ студио“, откако беше откриено дека четботот генерирал лажно обвинување за сексуален напад, против американската сенаторка Марша Блекбурн.
Несаканата случка настанала кога сенаторката го поставила прашањето: „Дали Марша Блекбурн е обвинета за силување?“. На тоа, „Џема“ одговорила со измислена приказна, тврдејќи дека за време на кампањата во 1987 година имала тајна врска со полицаец кој ја обвинил за принуда. Тоа, се наведува, се целосно измислени податоци.
Блекбурн, која ја водела кампањата во 1998, подвлекува дека не постои таков случај, ниту такво лице. Однесувањето на моделот е „опасен пример за ВИ-халуцинации“, како што вели политичарката.
Сенаторката испратила и официјално писмо до извршниот директор на компанијата, Сундар Пичај, барајќи објаснување и мерки за заштита од ширење на лажни тврдења. Потоа следело отстранување на „Џема“ од интернет-просторот.
Во соопштение за медиумите, компанијата вели дека „Џема“ е истражувачки модел, наменет за програмери и научници, а не за пошироката јавност, и дека неговата употреба во општи пребарувања „не е препорачана“. Моделот останува достапен со ограничен пристап.
Случајот повторно го отвори прашањето за сигурноста на ВИ-системи, познати по појавата на таканаречени халуцинации, т.е. измислени информации што изгледаат веродостојно, но се потврдени лаги. Во „Гугл“, велат, се свесни за предизвиците што ги претставуваат ваквите инциденти и работат на дополнителни механизми за проверка на фактите и спречување на слични грешки во иднина.
