Пресс-релиз

Microsoft научила нейросеть рисовать сложные сцены по текстовому описанию

Microsoft научила нейросеть рисовать сложные сцены по текстовому описанию
Подписка на рассылку

Microsoft научила нейросеть рисовать сложные сцены по текстовому описанию

  • 6728
  • 2 мин.
Microsoft научила нейросеть рисовать сложные сцены по текстовому описанию

Исследовательская группа Microsoft Research представила генеративно-состязательную нейросеть, которая способна генерировать изображения с несколькими объектами на основе текстового описания. В отличие от более ранних подобных алгоритмов text-to-image, способных воспроизводить изображения только базовых объектов, эта нейросеть может справляться со сложными описаниями более качественно.

Сложность создания подобного алгоритма заключалась в том, что, во-первых, ранее бот был не способен в хорошем качестве воссоздавать все базовые объекты по их описаниям, и, во-вторых, не мог проанализировать то, как несколько объектов могут относиться друг к другу в рамках одной композиции. К примеру, чтобы создать изображение по описанию «Женщина в шлеме сидит на лошади», нейросеть должна была семантически «понять», как каждый из объектов относится друг к другу. Эти проблемы удалось решить, обучив нейросеть на основе открытого дата-сета COCO, содержащего разметку и данные сегментации для более 1,5 млн объектов.

В основе алгоритма лежит объектно-ориентированная генеративно-состязательная нейросеть ObjGAN (Object-driven Attentive Generative Adversarial Newtorks). Она анализирует текст, выделяя из него слова-объекты, которые необходимо расположить на изображении. В отличие от обычной генеративно-состязательной сети, состоящей из одного генератора, который создает изображения, и одного дискриминатора, который оценивает качество сгенерированных изображений, ObjGAN содержит два различных дискриминатора. Один анализирует, насколько реалистичен каждый из воспроизведенных объектов и насколько он соответствует имеющемуся описанию. Второй определяет, насколько вся композиция реалистична и соотносится с текстом.

Предшественником алгоритма ObjGAN стал AttnGAN, также разработанный исследователями Microsoft. Он способен генерировать изображения объектов по более простым текстовым описаниям. Технология преобразования текста в изображения может применяться для помощи дизайнерам и художникам в создании эскизов.

Алгоритм ObjGAN находится в открытом доступе на GitHub.

Пресс-релизы компании Смотреть все

Свежие пресс-релизы Смотреть все

О компании

Microsoft Microsoft

Основанная в 1975 году, корпорация Microsoft является мировым лидером в производстве программного обеспечения, предоставлении услуг и разработке интернет-технологий для персональных компьютеров и серв...

Цитаты

Все

Перенос сроков погашения госдолга позволит Томской области сэкономить около 1 млрд

ФРОЛОВА Юлия Вадимовна
ФРОЛОВА Юлия Вадимовна

Благодаря этому удастся сэкономить около миллиарда рублей на обслуживании госдолга

В ОЭЗ «Томск» запустят новые проекты на сумму более 2,2 млрд рублей

ДРОЗДОВ Юрий Викторович
ДРОЗДОВ Юрий Викторович

Сегодня мы видим важный результат развития ОЭЗ: резиденты не только работают на нашей инфраструктуре, но и создают собственную производственную базу, расширяя свое присутствие на площадке. Параллельно управляющая компания строит новые лабораторные и производственные площади. Наша задача — создать среду, в которой технологическая компания сможет пройти весь путь от разработки до промышленного производства

Прокуратура Томской области взяла на контроль проверку после инцидента с двумя детьми

ЛОМАКИН Сергей Сергеевич
ЛОМАКИН Сергей Сергеевич

Необходимо установить все обстоятельства и причины произошедшего, обеспечить объективную проверку и привлечь виновных лиц к установленной законом ответственности

Строительство экспоцентра в Томске оценивается в 2–2,5 млрд рублей

ПОТЕМКИН Василий Владимирович
ПОТЕМКИН Василий Владимирович

По инвестору мы работу ведем. Понимаем, кто потенциально это может быть, но из-за высокой ставки ЦБ РФ переговоры по новым стройкам сейчас приостановлены, потому что это просто очень дорого

Владимир Мазур: единение общества – главный щит в борьбе с терроризмом

МАЗУР Владимир Владимирович
МАЗУР Владимир Владимирович

Только вместе, проявляя солидарность и взаимовыручку, мы можем обеспечить безопасность для себя и будущих поколений

Купить рекламное место Слот 240×400 свободен Написать →