OpenAI создала весьма опасную нейросеть

Продукты и решения >> 10.11.2019, 13:50

Исследователи лаборатории OpenAI открыли доступ к полной версии GPT-2. Нейросеть предназначена для генерации текста на любые темы. О ее готовности сообщалось еще в феврале, но впечатленные способностями своего детища разработчики попросту опасались выпускать его в мир.

Поначалу лаборатория представила ряд урезанных версий искусственного разума для мониторинга реакции интернет-сообщества и главное – как люди будут его применять. GPT-2 обучалась на 8 миллионах текстов, умеет оперативно распознавать суть, делать выводы и продолжать текст. Так, нейросети достаточно броского заголовка для написания весьма убедительной «сенсации». Алгоритмы могут работать с литературными, техническими текстами, писать стихи, поддерживать беседу путем генерирования развернутых ответов на вопросы.

Опасения экспертов связаны с убедительностью текстов ИИ. GPT-2 не имеет злого умысла, но весьма мастерски жонглирует фразами и способна завести в заблуждение. Есть у нейросети и уязвимости: работает лишь с небольшими текстами, пока ей не под силу выстраивание длинных сюжетов. Кроме того, она способна на грубую ошибку при неверной интерпретации названия незнакомого предмета.

Но создатели решили «вышибать клин клином»: они не стали прятать GPT-2, дав к ней полный доступ любому желающему. Чем больше пользователей протестируют нейросеть, тем она будет менее уязвимой. И тогда применение искусственного разума в корыстных целях не принесет разрушительных последствий.