Что случилось
Телисон Орельен, канадско-гаитянский писатель, был обвинен анонимной группой Balance ton Claude в использовании искусственного интеллекта для написания своего дебютного романа C'était ça ou mourir, который недавно получил премию Prix du Roman Fnac. Автор и его издатель отрицают эти утверждения, ссылаясь на происхождение рукописи 2019 года и ненадежность инструментов обнаружения искусственного интеллекта.
Телисон Орельен, 38-летний канадско-гаитянский писатель, оказался в центре споров на французской литературной сцене после того, как его обвинили в использовании искусственного интеллекта при написании своего дебютного романа C'était ça ou mourir («Либо так, либо умри»). Роман недавно получил Prix du Roman Fnac, первую крупную премию литературного сезона, а Орельен в настоящее время является финалистом премий Гонкура и Ренодо.
Обвинения были выдвинуты во вторник малоизвестной группой Balance ton Claude, которая утверждала, что книга «почти полностью» написана искусственным интеллектом. Группа заявила, что они протестировали несколько отрывков из рукописи с помощью программы обнаружения под названием Pangram, которую они назвали очень точной, и получили 100-процентный результат, сгенерированный искусственным интеллектом. Членство в группе и конкретные детали методологии остаются неясными.
Орельен сразу отверг обвинения, заявив в интервью Libération, что он всегда любил творчество и литературу и не видит смысла использовать машину. Он отметил, что первый черновой вариант книги был написан в 2019 году, задолго до того, как программы искусственного интеллекта, генерирующие текст, стали общедоступными. Сообщается, что он вместе со своим редактором составляет досье, чтобы доказать подлинность книги.
Издательство Grasset также выступило в защиту автора, назвав обвинения «жестоко оскорбительными» для писателя с исключительной историей жизни. Они подчеркнули, что работа оригинальная и мощная. Роман, рассказывающий историю учителя, спасающегося от бандитского насилия на Гаити, считается самым продаваемым издателем за 60 лет, и его планируется перевести примерно на 20 языков.
Споры напоминают об аналогичном инциденте с тринидадским писателем Джамиром Назиром, чья премия Содружества за рассказы была первоначально отозвана из-за обвинений ИИ, но позже вновь вручена после того, как организаторы убедились, что произведение является подлинным. Критики инструментов обнаружения искусственного интеллекта, таких как Pangram, утверждают, что они ненадежны, часто дают разные результаты для одного и того же текста и испытывают проблемы с диалектами или отредактированным контентом.
Подробности об источнике: bbc.com ↗
Почему это важно
Этот инцидент подчеркивает растущую напряженность между контентом, созданным искусственным интеллектом, и человеческим авторством в литературном мире. Оно раскрывает ограничения существующих инструментов обнаружения ИИ, которые часто дают ложные срабатывания, и поднимает фундаментальные вопросы о том, как определить и проверить творческую аутентичность в эпоху, когда помощь ИИ становится все более распространенной. Этот спор может повлиять на будущие издательские стандарты и правовую базу, касающуюся использования ИИ в творческих произведениях.
Этот случай подчеркивает сложность проверки авторства в эпоху генеративного ИИ. Хотя детекторы ИИ анализируют лингвистические закономерности и вероятности, они не могут окончательно определить источник текста. Исследования показывают, что эти инструменты могут ошибочно помечать человеческое письмо как созданное искусственным интеллектом, особенно если текст включает диалекты или был отредактирован, что может привести к ложным обвинениям.
Инцидент подпитывает более широкую дискуссию о приемлемом сочетании творчества человека и искусственного интеллекта. По мере того, как ИИ становится все более нормальным, литературный мир должен определить, как поступать в случаях, когда авторы могут использовать ИИ для написания, редактирования или вдохновения. Это может привести к появлению новых стандартов раскрытия и проверки при публикации.
Этот спор также подчеркивает потенциальный ущерб для репутации авторов и издателей, когда публикуются непроверенные результаты обнаружения ИИ. Анонимность обвиняющей группы и отсутствие прозрачной методологии ставят под сомнение достоверность таких обвинений и необходимость более строгих стандартов оценки литературных премий.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
Что посмотреть дальше
Следите за результатами юридической или редакционной защиты автора, реакцией комитетов по премиям Гонкура и Рено, а также любыми последующими разработками в области технологий обнаружения ИИ или рекомендациями литературной индустрии относительно раскрытия информации об ИИ.
Реакция комитетов по премиям Гонкура и Рено будет иметь решающее значение, поскольку их решения могут создать прецедент в том, как обвинения в области искусственного интеллекта рассматриваются на крупных литературных премиях. Любой отзыв или сохранение статуса финалиста Orélien будет иметь серьезные последствия для отрасли.
Результаты защиты Орельена, включая любые судебные иски или публичное обнародование черновиков его рукописей, дадут представление о том, как авторы могут доказать подлинность своих работ. Это может привести к разработке новых инструментов или процессов для проверки авторства человека.
Литературная индустрия может отреагировать введением более строгих правил раскрытия информации об ИИ в материалах. Издатели и комитеты по премии могут потребовать от авторов заявить о любом использовании инструментов искусственного интеллекта, что потенциально может изменить ландшафт современной литературы.