Новости по компани ADOBE
Новость: нейтральная. «Этический» AI Firefly от Adobe прошел обучение на изображениях Midjourney. Когда в прошлом году Adobe Inc. выпустила свое программное обеспечение для создания изображений Firefly, компания заявила, что модель искусственного интеллекта была обучена в основном на Adobe Stock, ее базе данных, содержащей сотни миллионов лицензионных изображений. По словам Adobe, Firefly был «коммерчески безопасной» альтернативой конкурентам, таким как Midjourney, которые учились на сборе изображений из Интернета. Но за кулисами Adobe также частично полагалась на контент, созданный ИИ, для обучения Firefly, в том числе от тех же конкурентов ИИ. В многочисленных презентациях и публичных сообщениях о том, что Firefly безопаснее конкурентов благодаря своим обучающим данным, Adobe никогда не давала ясно понять, что в ее модели на самом деле использовались изображения некоторых из этих же конкурентов. Для обучения моделей искусственного интеллекта, лежащих в основе популярных продуктов для создания контента, необходимы огромные объемы данных, и компании, занимающиеся технологиями искусственного интеллекта, все чаще подвергаются проверке на предмет использования ими в этом процессе материалов, защищенных авторским правом. Такие компании, как Midjourney, производитель Dall-E OpenAI и производитель Stable Diffusion Stability AI, построили свои медиа-модели на основе наборов данных, которые извлекают изображения из Интернета, — практика, которая вызвала возмущение и судебные иски со стороны ряда художников. «Это показывает неясность определения ответственного ИИ, а также иллюстрирует трудности ухода от если не юридических, то социальных, культурных или этических проблем с помощью создаваемого контента», — сказал Люк Старк, помощник профессор Западного университета в Онтарио, изучающий социальные и этические последствия ИИ. Решение Adobe создать Firefly с контентом, права на который принадлежат компании и который находится в открытом доступе, было направлено на то, чтобы дифференцировать свой инструмент обработки изображений AI на быстрорастущем рынке генеративного искусственного интеллекта. Компания рекламировала его как более этичный и юридически обоснованный вариант для клиентов, заинтересованных в создании изображений всего из нескольких слов, но опасающихся потенциальных проблем с авторскими правами. Adobe заявила, что она не будет создавать контент на основе интеллектуальной собственности других людей или брендов, а также будет избегать создания вредоносных изображений. Контент, созданный с помощью искусственного интеллекта, попал в обучающую программу Firefly, поскольку создателям было разрешено отправлять на фондовый рынок Adobe миллионы изображений, в которых использовались технологии других компаний. «Генераторные изображения ИИ из коллекции Adobe Stock — это лишь малая часть набора обучающих данных Firefly», — написала в сентябре представитель Adobe Мишель Хаархофф в группе Discord для фотографов и художников, которые вносят свой вклад в рынок. Adobe заявила, что относительно небольшое количество — около 5% — изображений, используемых для обучения ее инструмента искусственного интеллекта, было создано другими платформами искусственного интеллекта. «Каждое изображение, отправленное в Adobe Stock, включая очень небольшую часть изображений, созданных с помощью искусственного интеллекта, проходит строгий процесс модерации, чтобы гарантировать, что оно не включает интеллектуальную собственность, товарные знаки, узнаваемые символы или логотипы или имена ссылающихся художников», — заявил представитель компании. сказал. Критика этой практики исходила изнутри компании. быть назван, поскольку обсуждения были частными. Некоторые предлагали со временем отучить систему от генерируемых изображений, но один из людей сказал, что в настоящее время таких планов нет. Adobe раскритиковала конкурентов за их методы сбора данных. Другие модели построены на данных, которые «открыто собраны», заявил в прошлом году директор по стратегии Скотт Бельски. Adobe заявляет на своем веб-сайте, что Firefly лучше аналогичной модели OpenAI, поскольку она демонстрирует уважение к творческому сообществу, обучаясь только на лицензированных или свободно доступных данных. А в марте прошлого года в своем блоге, озаглавленном «Ответственные инновации в эпоху генеративного ИИ», главный юрисконсульт Дана Рао отметила, что генеративный ИИ «плох настолько, насколько хороши данные, на которых он обучается». «Обучение на тщательно подобранных, разнообразных наборах данных по своей сути дает вашей модели конкурентное преимущество, когда дело доходит до получения коммерчески безопасных и этических результатов», — написал он, отметив, что Adobe обучала Firefly на стандартных изображениях Adobe, лицензионном контенте и общедоступном контенте, в котором авторские права истекли. «Наши корпоративные клиенты пришли к нам, когда мы запустили Firefly, и сказали: «Нам нравится то, что вы делаете, мы очень ценим, что вы не крадете всю нашу интеллектуальную собственность в открытом Интернете», — Эшли Стилл, Adobe старший вице-президент, заявил ранее в этом месяце во время мероприятия Bloomberg Intelligence. Тем не менее, Adobe так и не заявила публично, что Firefly частично тренировалась на изображениях из инструментов конкурентов, которые предположительно менее этичны. Однако, согласно сообщениям, которые просматривал Bloomberg, такие подробности были изложены как минимум в двух онлайн-дискуссионных группах, которые компания ведет на Discord — одна для Adobe Stock, а другая посвящена Firefly. В марте 2023 года Adobe представила Firefly как «бета-версию» продукта. В том же месяце Рауль Серон, который работает с сообществом Adobe Stock, опубликовал на Discord, что компания не планирует использовать сгенерированные изображения для обучения предстоящей общедоступной версии Firefly. «Как только мы выйдем из бета-версии, у нас будет новая база данных обучения, в которой не будет контента Gen AI», — написал он в своем сообщении в июне. Когда Adobe объявила о публичном выпуске Firefly 13 сентября, компания также выплатила специальный «бонус Firefly» участникам Adobe Stock, «чей контент использовался для обучения первой коммерческой модели Firefly». Согласно сообщению Discord от Мэта Хейворда, который также работает с сообществом Adobe Stock, среди тех, кто получил бонусные выплаты, были участники, использовавшие генеративный искусственный интеллект. Изображения, созданные искусственным интеллектом в Adobe Stock, «улучшают нашу модель обучения набора данных, и мы решили включить этот контент в коммерческую версию Firefly», — написал Хейворд. Брайан Пенни, писатель и автор стоковых изображений, который отправил в Adobe Stock тысячи изображений, созданных с помощью искусственного интеллекта (в основном с помощью Midjourney), был удивлен, получив бонус. Он решил, что как участник ИИ он не будет иметь на это права. Несмотря на финансовую выгоду, Пенни считает, что решение обучать Firefly такому контенту, как его, является плохим, и говорит, что компания должна быть более откровенной в отношении того, как она обучает программное обеспечение для создания изображений. «Они должны быть этичными, им нужно быть более прозрачными, им нужно делать больше», — сказал он. Библиотека Adobe Stock пережила настоящий бум с тех пор, как в конце 2022 года она начала официально принимать AI-контент. Сегодня насчитывается около 57 миллионов изображений, или около 14% от общего числа, помеченных как изображения, созданные AI. Художники, отправляющие изображения AI, должны указать, что работа была создана с использованием этой технологии, но им не нужно указывать, какой инструмент они использовали. Чтобы обеспечить свой набор для обучения искусственному интеллекту, Adobe также предложила платить участникам за отправку большого количества фотографий для обучения искусственному интеллекту, таких как изображения бананов или флагов. Обучение работе с контентом, созданным искусственным интеллектом, вероятно, не сделает генератор изображений Adobe Firefly менее коммерчески безопасным, и компания не обязана говорить, чему она обучает, если только это не вводит потребителей в заблуждение, говорит профессор Гарварда Ребекка Тушнет, которая фокусируется на по авторскому праву и законодательству о рекламе. Но обучение на изображениях ИИ, например, созданных Midjourney, подрывает идею об уникальности Firefly среди конкурирующих сервисов, сказала она. «Adobe по сути хочет позиционировать себя как лучшую альтернативу, но ей также нужны действительно дешевые исходные данные, а ИИ — действительно хороший способ получить дешевые исходные данные», — сказала она. Авторы: Rachel Metz,Brody Ford. Источник: www.bloomberg.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ