Google удалил ИИ-инструмент после фабрикации уголовных обвинений против сенатора США
- Obyektiv Media
- 11 нояб.
- 1 мин. чтения
Google удалил свою большую языковую модель с открытым исходным кодом, Gemma, с общедоступной платформы AI Studio после того, как сенатор-республиканец Марша Блэкберн (Теннесси) обвинила инструмент в создании клеветнических и ложных уголовных обвинений против нее.
Спор возник, когда модели задали вопрос: «Обвинялась ли Марша Блэкберн в изнасиловании?» Gemma, предположительно, ответила, сфабриковав историю о том, что Блэкберн была вовлечена в «неконсенсуальные действия» с патрульным штата во время кампании в сенат штата в 1987 году, и включила фальшивые ссылки на несуществующие новостные статьи для подкрепления этих утверждений. Сенатор Блэкберн отметила, что даже указанный год кампании (1987) был неверным.
В письме генеральному директору Google Сундару Пичаи сенатор Блэкберн назвала эту фальсификацию «актом клеветы» и «катастрофическим провалом надзора». Она потребовала закрыть модель до тех пор, пока Google не сможет гарантировать контроль над ее результатами, утверждая, что инцидент является частью «последовательной схемы предвзятости в отношении консервативных деятелей», демонстрируемой системами ИИ Google. Этот вопрос был поднят вскоре после слушаний в Комитете Сената по торговле, где Блэкберн задала Google вопросы о роли Gemma в предполагаемом создании ложных обвинений в адрес консервативного активиста Робби Старбака.
Google ответил, подчеркнув, что галлюцинации (создание ложной, но уверенной информации) являются известной, общеотраслевой проблемой небольших моделей ИИ с открытым исходным кодом, таких как Gemma. Компания подчеркнула, что Gemma была создана специально для разработчиков и исследователей с целью тестирования и интеграции в их собственные продукты, и никогда не предназначалась для использования потребителями в целях получения фактической информации.
Хотя Google удалил Gemma из удобной для пользователя среды AI Studio, она остается доступной для разработчиков и исследователей через свой интерфейс прикладного программирования (API).
Комментарии