Почему природа не позволит использовать генеративный искусственный интеллект в изображениях и видео

Dec 09, 2023

У вас есть полный доступ к этой статье через ваше учреждение.

Nature не будет публиковать изображения, созданные полностью или частично с использованием генеративного искусственного интеллекта. Автор фото: Артем Медведев/Алами.

Должна ли природа разрешить использование генеративного искусственного интеллекта (ИИ) для создания изображений и видео? Этот журнал обсуждает, обсуждает и консультирует по этому вопросу в течение нескольких месяцев после резкого роста количества контента, созданного с использованием инструментов генеративного искусственного интеллекта, таких как ChatGPT и Midjourney, и быстрого увеличения возможностей этих платформ.

За исключением статей, посвященных ИИ, Nature не будет публиковать какой-либо контент, в котором фотографии, видео или иллюстрации были полностью или частично созданы с использованием генеративного ИИ, по крайней мере, в обозримом будущем.

Художникам, режиссерам, иллюстраторам и фотографам, которых мы заказываем и с которыми мы работаем, будет предложено подтвердить, что ни одна из представленных ими работ не была создана или дополнена с использованием генеративного искусственного интеллекта (см. go.nature.com/3c5vrtm).

Такие инструменты, как ChatGPT, угрожают прозрачности науки; вот наши основные правила их использования

Почему мы запрещаем использование генеративного искусственного интеллекта в визуальном контенте? В конечном счете, это вопрос честности. Процесс публикации — что касается как науки, так и искусства — подкреплен общей приверженностью честности. Это включает в себя прозрачность. Как исследователи, редакторы и издатели, мы все должны знать источники данных и изображений, чтобы можно было проверить их точность и правдивость. Существующие инструменты генеративного ИИ не предоставляют доступа к своим источникам, чтобы можно было провести такую ​​проверку.

Еще есть атрибуция: когда существующая работа используется или цитируется, она должна быть указана. Это основной принцип науки и искусства, и инструменты генеративного искусственного интеллекта не соответствуют этому ожиданию.

Согласие и разрешение также являются факторами. Их необходимо получить, если, например, устанавливаются личности или затрагивается интеллектуальная собственность художников и иллюстраторов. Опять же, обычные приложения генеративного ИИ не проходят эти тесты.

Генеративные системы искусственного интеллекта обучаются на изображениях, источник которых не был предпринят. Произведения, защищенные авторским правом, регулярно используются для обучения генеративному ИИ без соответствующих разрешений. В некоторых случаях конфиденциальность также нарушается — например, когда генеративные системы искусственного интеллекта создают нечто похожее на фотографии или видео людей без их согласия. Помимо проблем с конфиденциальностью, легкость, с которой могут быть созданы эти «дипфейки», ускоряет распространение ложной информации.

На данный момент Nature разрешает включение текста, созданного с помощью генеративного искусственного интеллекта, при условии, что это делается с соответствующими оговорками (см. go.nature.com/3cbrjbb). Использование таких инструментов большой языковой модели (LLM) должно быть задокументировано в разделе «Методы» статьи или «Благодарности», и мы ожидаем, что авторы предоставят источники всех данных, включая те, которые созданы с помощью ИИ. Кроме того, ни один инструмент LLM не будет принят в качестве автора исследовательской работы.

Мир стоит на пороге революции искусственного интеллекта. Эта революция имеет большие перспективы, но ИИ – и особенно генеративный ИИ – также быстро разрушает давно устоявшиеся традиции в науке, искусстве, издательском деле и многом другом. На разработку этих соглашений в некоторых случаях ушли столетия, но в результате появилась система, которая защищает честность в науке и защищает создателей контента от эксплуатации. Если мы не будем осторожны в обращении с ИИ, все эти достижения могут быть сведены на нет.

Многие национальные нормативно-правовые системы все еще формулируют свои ответы на развитие генеративного ИИ. Пока они не наверстают упущенное, позиция Nature как издателя исследовательских и творческих работ останется простым «нет» включению визуального контента, созданного с использованием генеративного искусственного интеллекта.

Природа618, 214 (2023)

дои: https://doi.org/10.1038/d41586-023-01546-4

Такие инструменты, как ChatGPT, угрожают прозрачности науки; вот наши основные правила их использования