Компания Amazon объявила об изменении политики, которая обязывает авторов раскрывать информацию об использовании искусственного интеллекта при создании материалов для электронных книг, продаваемых на ее платформе.
Этот шаг был предпринят после настойчивого давления со стороны Гильдии авторов и других подобных организаций, которые выражали обеспокоенность растущим присутствием контента, созданного искусственным интеллектом.
Контент, созданный искусственным интеллектом, отнимает доход у настоящих авторов, снижая при этом общее качество публикуемого контента.
Обновленные условия Amazon в руководстве по прямой публикации гласят: "Мы требуем, чтобы вы сообщали нам о сгенерированном искусственным интеллектом контенте (тексте, изображениях или переводах), когда публикуете новую книгу или вносите правки в существующую и переиздаете ее через KDP. К изображениям, созданным искусственным интеллектом, относятся изображения на обложке и внутри книги, а также иллюстрации".
Гильдия авторов приветствует новую политику как "первый шаг".
A заявление на их веб-сайте Мы благодарны команде Amazon за то, что она приняла во внимание наши опасения и сделала этот важный шаг к обеспечению прозрачности и подотчетности контента, созданного искусственным интеллектом", а также отметила, что "продолжит работу по обеспечению подобной прозрачности со стороны других крупных платформ и издателей".
Требуя от авторов раскрывать информацию о контенте, создаваемом искусственным интеллектом, Amazon стремится предоставить потребителям знания, позволяющие принимать более взвешенные решения.
Однако эта добровольная система не отличается особой надежностью, и у Amazon практически нет возможности объективно выявлять контент, созданный ИИ, поскольку детекторы ИИ в основном утратили свою актуальность в эпоху GPT-4 и других сложных больших языковых моделей (LLM).
Исследования показали, что детекторы ИИ плохо обнаруживают работы, созданные ИИ, и ответственность за ложный флаг подлинный контент.
Влияние на качество и оригинальность
Одной из главных проблем, приведших к новой политике Amazon, стал вопрос о качестве и оригинальности контента, создаваемого искусственным интеллектом.
По мере совершенствования моделей искусственного интеллекта растет опасение, что эти автоматизированные системы могут наводнить рынок производными работами, потенциально размывая отличительные черты человеческого творчества.
Кроме того, в книгах по самосовершенствованию и нехудожественной литературе, созданных ИИ, может распространяться неверная или опасная информация. Например, недавно компания Amazon достал книгу о грибном промысле содержащие опасные или даже смертельные советы.
Решение Amazon также затрагивает все более спорный вопрос о правах на интеллектуальную собственность в эпоху ИИ.
Алгоритмы искусственного интеллекта часто обучаются на существующих работах, которые могут быть защищены авторским правом.
Гильдия авторов ранее организовал открытое письмоВ нем, поддержанном такими известными авторами, как Джеймс Паттерсон и Маргарет Этвуд, содержится призыв к технологическим компаниям не использовать материалы, защищенные авторским правом, без разрешения.
Политика Amazon была воспринята положительно, но стоит отметить, что Amazon пока не может публично идентифицировать книги, содержащие материалы, созданные искусственным интеллектом.
Окончательное влияние решения Amazon будет зависеть от того, насколько далеко они зайдут в выявлении и удалении книг, созданных искусственным интеллектом, особенно в тех случаях, когда контент исключительно низкого качества, неоригинален или содержит фактологически неверные, рискованные или опасные советы.
