Anthropic начала внедрять «невидимые водяные знаки» в тексты, сгенерированные ее ИИ-моделью Claude. Это решение, продиктованное в том числе требованиями Закона ЕС об искусственном интеллекте (AI Act), вызвало бурные дискуссии в технологическом сообществе. Собрала аргументы сторонников и противников этой инициативы:
Аргументы «ЗА» маркировку:
- ⬆️Повышение прозрачности. Читатели, работодатели и пользователи соцсетей имеют право знать, общаются ли они с живым человеком или читают текст, сгенерированный чат-ботом.
- ⬆️Борьба с академическим мошенничеством. Водяные знаки станут отличным инструментом для преподавателей и университетов, позволяя выявлять студентов, которые злоупотребляют ИИ при написании эссе и курсовых работ.
- ⬆️Защита будущих ИИ-моделей. Маркировка поможет разработчикам фильтровать данные. Если новые нейросети будут обучаться на текстах, созданных предыдущими поколениями ИИ, это может привести к деградации качества систем (проблема «змеи, кусающей себя за хвост»).
Аргументы «ПРОТИВ» маркировки:
- ⬇️Уязвимость пользователей в рабочих процессах. Технология распознавания несовершенна. Наличие метки может лишить текст нюансов: клиенты или начальники могут ошибочно решить, что вся работа была сделана машиной, даже если ИИ использовался лишь частично (например, при написании кода).
- ⬇️Проблема простой редактуры. Если автор использует Claude только для проверки грамматики, перевода или краткого пересказа собственного текста, водяной знак все равно может сохраниться. Это несправедливо лишает человека авторства за его оригинальные мысли.
- ⬇️Сложности с авторским правом. Видимое использование ИИ может усложнить авторам доказательство своих прав на произведение. Хотя Anthropic заявляет, что водяной знак никак не влияет на юридическое владение контентом, на практике это может вызвать юридические споры.
Telegram🛑Канал для трансляций🛑ВКонтакте🛑Max🛑Дорогой дневник🛑Дзен
