Прелюдия: ещё один коллективный иск к облаку Читаю очередную волну возмущения. Владельцы сайтов, художники, музыканты, фотографы — все те, кого объединяет емкое слово «криэйторы», — требуют...

Читаю очередную волну возмущения. Владельцы сайтов, художники, музыканты, фотографы — все те, кого объединяет емкое слово «криэйторы», — требуют сатисфакции. ИИ, видите ли, обучался возможно на их контенте. И теперь должен. Потому что «конскую цену за работу» уже не выставишь: у заказчика появилась опция сгенерировать за три копейки.

Я смотрю на это и вижу две проблемы. Одна — логическая. Вторая — антропологическая. Обе неприятны для обиженных.

Допустим, мы хотим честности. Возведём её в абсолют — без удобного деления на «искусственные» и «естественные» нейросети.

Обучение фотографии, дизайну, живописи — это грандиозная намеренность. Присвоение багажа, накопленного предшественниками за века. Вы не изобретаете свет. Вы воспроизводите схему, которую кто-то впервые увидел и канонизировал. Рембрандт, к слову, не «придумал» свою светотень: он унаследовал кьяроскуро от Караваджо и тенебристов и довёл конкретный тип распределения света до узнаваемого канона. Каждый следующий портретист с «рембрандтовским» светом — это инференс на его весах.

Хотите доплачивать тем, на чьих работах учились? Отлично. Тогда 90+ процентов гонорара уходит наследникам тех, чьи наработки вы осознанно или нет цитируете. Сделали портрет с рембрандтовским светом — отстегните потомкам Рейна. Ну и ещё немного — тому, кто первым перенёс эту схему в фотографию и правильно расставил софтбоксы. Вы ведь не изобрели треугольник света. Вы его воспроизвели. Возможно скомпилировав ещё с десятком находок людей которым вы ни копейки не заплатили. Развитие человечества характер не индивидуальный носит. Все стоят на плечах у предшественников, а иногда и коллег современников.

Любой человеческий «креатив» — это инференс на огромном датасете чужого опыта. Мы все обучаемся на чужих весах. Разница между человеком и нейросетью не в факте обучения, а в том, что человек делает это медленно, платит за это курсами и мастер-классами, а потом ещё и обижается, когда кто-то делает то же самое быстрее.

Раз уж мы на технической площадке, стоит проговорить механику — половина обид держится на её незнании. Хотя, думаю большая часть читателей это знает не хуже меня, а многие и куда лучше.

Модель не хранит копии ваших работ. Веса сети — это не архив и не база изображений, а сжатое статистическое описание распределения: регулярностей света, композиции, текстуры, семантики. Обучающий набор вроде LAION-5B — это порядка 5,85 миллиарда пар «изображение–текст»; ни одна из них не переживает обучение в исходном виде. Генерация — это сэмплирование из выученного распределения, а не retrieval из базы. Именно поэтому модель галлюцинирует: она не знает, она экстраполирует.

Отсюда простой вывод: претензия «вы украли мои картинки» описывает не то, что происходит математически. Происходит другое — построение обобщённого представления о том, как устроено изображение вообще. Претензия «ваш вывод воспроизводит мою работу почти дословно» — это уже другой разговор, и он вполне юридический. Но это разговор про вывод, а не про обучение. Обиженные же систематически путают первое со вторым.

Ирония в том, что сами обиженные воспроизводят чужие композиции не менее точно. Просто без лицензионного соглашения и на более медленном GPU — собственном мозге.Нас в школе, вузе и через медиа постоянно обучают и прошивают..