Генеративный искусственный интеллект для продакт-менеджеров

Всем привет!

Автор статьи рассказывает о принципах работы искусственного интеллекта, его разновидностях, практической пользе для продакт-менеджеров, а также делится тщательно подобранным списком литературы по этой теме.

Статья переведена из издания Product Mindset.

Содержание:

1. Что такое генеративный искуственный интеллект
2. История генеративного искусственного интеллекта
3. Как работает генеративный искусственный интеллект – простыми словами
4. Как генеративный искусственный интеллект можно использовать для создания продуктов?
5. Примеры генеративной модели ИИ
6. Плюсы и минусы генеративного искусственного интеллекта
7. Как продакт-менеджеры могут использовать генеративный ИИ
8. Заключение
9. Что почитать об искусственном интеллекте?

Генеративный искусственный интеллект (ИИ) — это быстро развивающаяся область машинного обучения, которая может создавать новый контент, переводить языки, писать различные виды творческого контента и информативно отвечать на ваши вопросы. Он имеет большой потенциал, чтобы произвести революцию в том, как мы создаем и используем продукты.

Генеративным ИИ называют любую модель искусственного интеллекта, которая генерирует новые данные, информацию или документы.

Например, многие компании записывают свои встречи — как живые, так и виртуальные. Вот несколько вариантов, как генеративный ИИ может преобразовать эти записи:

· создать список договоренностей, достигнутых на встрече

· сгенерировать краткое резюме собрания для людей, которые не смогли прийти на него, выделив важную информацию

· дать ответы на вопросы, возникшие по этой встрече

Генеративный ИИ имеет относительно короткую историю, восходящую к 1950-м годам с развитием нейронных сетей. Тем не менее, в последние годы наблюдается быстрый прогресс, особенно с внедрением генеративных состязательных сетей в 2014 году и появлением крупных языковых моделей, таких как ChatGPT, в 2023 году.

Ключевые этапы развития генеративного ИИ:

• 1950-е годы: Алан Тьюринг публикует свою статью о машинном мышлении и создает тест Тьюринга
• 1957: Фрэнк Розенблатт изобретает первые обучаемые нейронные сети
• 1980-е годы и далее: Нейросети становятся широко используемыми в ИИ
• 2014: Внедрены генеративно-состязательные сети
• 2023: Разработаны крупные языковые модели, такие как ChatGPT.

Генеративные модели ИИ обычно работают с использованием процесса, называемого состязательным обучением. В состязательном обучении две модели противопоставляются друг другу: модель генератора и модель дискриминатора. Модель генератора отвечает за создание нового контента, а модель дискриминатора – за проведение различия между реальными и сгенерированными данными. Обе модели обучаются вместе в конкурентном цикле, при этом модель генератора пытается обмануть модель дискриминатора, а модель дискриминатора пытается поймать на обмане модель генератора.

Генеративный ИИ — это мощный инструмент для оптимизации рабочего процесса творческих профессий, инженеров, исследователей, ученых и представителей многих других специальностей. Варианты использования и возможности охватывают все отрасли и индивидуальные потребности.

Представить себе работу генеративного ИИ можно на примере бросания кубиков. Обучающие данные определяют веса (или вероятности). Если кубик представляет следующее слово в предложении, то слово, часто следующее за текущим словом в обучающих данных, будет иметь больший вес. Таким образом, «небо» может следовать за «синим» чаще, чем за «бананом». Когда ИИ «бросает кости» для генерации контента, он с большей вероятностью выбирает статистически более вероятные последовательности на основе своего обучения.

Итак, как большие языковые модели (Large Language Model/ LLM) могут генерировать контент, который кажется оригинальным?

Давайте возьмем искусственный список – «лучшие подарки Ид аль-Фитр (мусульманский праздник Ураза-байрам в тюркском варианте, принятом в России) для контент-маркетологов» – и рассмотрим, как LLM может сгенерировать этот список, объединив текстовые подсказки из документов о подарках, Ид аль-Фитр и контент-маркетологах.

Перед обработкой текст разбивается на более мелкие части, называемые «токенами». Эти токены могут быть короткими, как один символ, или длинными, как одно слово.

Пример: «Ид аль-Фитр — это празднование» становится [«Ид», «аль-Фитр», «это», «празднование»].

Это позволяет модели работать с управляемыми фрагментами текста и понимать структуру предложений.

Затем каждый токен преобразуется в специальный вектор (набор чисел). С помощью этого вектора однозначно определяется значение и контекст каждого слова.

Позиционное кодирование добавляет к каждому вектору слова информацию о его положении в предложении, гарантируя, что модель не потеряет эту информацию о порядке.

Затем используется механизм внимания: это позволяет модели фокусироваться на наиболее важных частях входных данных. Если вы помните модель BERT (Bidirectional Encoder Representations from Transformers/ двунаправленная нейронная сеть-кодировщик), то её нововведением было как раз применения модели с механизмом внимания к языковому моделированию.

Итак, если наша модель видела тексты о «подарках» и знает, что люди дарят подарки во время торжеств, а также видела тексты о том, что «Ид аль-Фитр» является праздником, она обратит «внимание» на эти связи.

Аналогично, если она видела тексты о «контент-маркетологах», нуждающихся в определенных инструментах или ресурсах, то она может связать идею «подарков» с «контент-маркетологами».

Теперь мы можем комбинировать контексты: поскольку модель обрабатывает входной текст через несколько уровней преобразования, она объединяет изученные контексты.

Таким образом, даже если в оригинальных текстах никогда не упоминались «подарки Ид аль-Фитр для контент-маркетологов», модель может объединить концепции «Ид аль-Фитр», «подарки» и «контент-маркетологи» для создания этого контента. Это связано с тем, что она изучила более широкий контекст вокруг каждого из этих терминов.

После обработки входных данных с помощью механизма внимания и сетей с обратной связью на каждом уровне преобразования модель выдает распределение вероятности по своему словарному запасу для следующего слова в последовательности. После таких слов, как «лучший» и «Ид аль-Фитр», слово «подарки» имеет высокую вероятность быть следующим. Точно так же она может связать «подарки» с потенциальными получателями, такими как «контент-маркетологи».

Генеративный ИИ можно использовать для создания продуктов различными способами. Например, его можно использовать для:

· Создания нового творческого контента – постов в блогах, статей, кода и изображений

· Перевода иностранных языков

· Персонализации пользовательского опыта

· Генерации новых идей и функций продукта

· Повышения эффективности разработки продукта.

На рынке уже доступен ряд продуктов, использующих генеративный ИИ – ниже мы приведем несколько примеров. Основополагающий принцип генеративного ИИ варьируется в зависимости от конкретной модели или используемого алгоритма, но некоторые общие подходы включают:

1. Вариационные автоэнкодеры (Variational Autoencoders/ VAEs) — это тип генерирующей модели, которая учится кодировать входные данные в скрытое пространство, а затем декодировать их обратно в исходные данные. «Вариационная» часть названия относится к вероятностной природе скрытого пространства, позволяющей модели генерировать разнообразные выходные данные.

2. Генеративные состязательные сети (Generative Adversarial Networks/ GaN): GaN состоят из двух нейронных сетей, генератора и дискриминатора, которые обучаются одновременно посредством состязательного обучения. Генератор создает новые данные, а дискриминатор оценивает, насколько хорошо сгенерированные данные соответствуют реальным данным. Конкуренция между двумя сетями приводит к тому, что генератор со временем совершенствуется в создании реалистичных выходных данных.

3. Рекуррентные нейронные сети (Recurrent Neural Networks/ RNNS) и сети c долговременной краткосрочной памятью (Long Short-Term Memory/ LSTM): Эти типы нейронных сетей часто используются для генерации последовательностей, таких как текст или музыка. RNNS и LSTM обладают памятью, которая позволяет им обрабатывать серии событий во времени, что делает их подходящими для задач, где важен порядок элементов.

4. Модели трансформеров: модели трансформеров, особенно с механизмами внимания, очень успешны в различных генеративных задачах. Они могут запоминать долгосрочные зависимости и взаимосвязи в данных, что делает их эффективными для таких задач, как языковой перевод и создание текста.

5. Автокодировщики: Автокодировщики состоят из кодера и декодера, и они обучены восстанавливать входные данные. Хотя они в основном используются для обучения представлению и сжатию данных, такие вариации как автоэнкодеры с подавлением шумов (например, в изображениях), могут использоваться для генеративных задач.

Процесс обучения генеративному ИИ включает в себя предоставление модели большого набора данных и оптимизацию ее параметров, чтобы минимизировать разницу между сгенерированными выходными данными и реальной информацией. Способность модели создавать реалистичный и разнообразный контент зависит от сложности ее архитектуры, качества и количества обучающих данных, а также методов оптимизации, используемых во время обучения.

Как и любое крупное технологическое развитие, генеративный ИИ открывает целый мир потенциальных возможностей, которые уже подробно обсуждались выше, но есть и недостатки, которые следует учитывать.

Общие преимущества генеративного ИИ включают:

1. Повышение производительности: Генеративный искусственный интеллект может автоматизировать или ускорить выполнение задач, что приводит к повышению производительности.

2. Устранение профессиональных или временных барьеров: снижает барьеры для создания контента и других творческих задач, делая такие процессы более доступными.

3. Возможность анализа сложных данных: генеративный ИИ облегчает анализ и исследование сложных наборов данных.

4. Создание синтетических данных: его можно использовать для создания синтетических данных для обучения и улучшения других систем ИИ.

Недостатки генеративного ИИ включают:

1. Галлюцинации: некоторые модели ИИ создают галлюцинации, порождая бессмыслицу или ошибки, которые не поддаются реальной логике.

2. Зависимость от маркировки данных: Несмотря на достижения в области неконтролируемого обучения, многие модели по-прежнему зависят от людей при маркировке данных, что создает проблемы качества и достоверности.

3. Задачи модерации контента: Модели ИИ могут испытывать трудности с распознаванием и фильтрацией нежелательного контента, что требует вмешательства человека.

4. Этические проблемы: Генеративный ИИ может воспроизводить предубеждения, присутствующие в обучающих данных, что приводит к этическим проблемам, таким как дискриминация и необъективность.

5. Юридические и регуляционные проблемы:

o Вопросы авторского права: проверка соблюдения авторских прав становится сложной задачей из-за обширных и разнообразных наборов данных, используемых в обучении.

o Проблемы конфиденциальности: генеративный ИИ поднимает вопросы, связанные со сбором, хранением, использованием и безопасностью как личных, так и деловых данных.

o Автономность и ответственность: определение ответственности в случаях аварий с участием автономных систем, таких как самоуправляемые автомобили, остается непроясненным.

o Политические последствия: возникают опасения по поводу распространения ложной информации, манипулирования средствами массовой информации и вмешательства в демократические процессы.

o Потребление энергии: Значительное потребление энергии моделями ИИ вызывает экологические опасения и влияет на окружающую среду по мере расширения их использования.

Продакт-менеджеры могут использовать генеративный ИИ для улучшения своих продуктов различными способами. Например, они могут использовать его для:

· Создания нового креативного контента для своих маркетинговых материалов

· Перевода своих продуктов на несколько иностранных языков, чтобы охватить более широкую аудиторию

· Персонализации пользовательского интерфейса для каждого отдельного пользователя

· Создание новых идей и функций продукта на основе отзывов пользователей и тенденций рынка

· Повышение эффективности разработки продукта с помощью генеративного ИИ для автоматизации таких задач, как генерация кода и тестирование.

Генеративный ИИ — это мощный инструмент, который может произвести революцию в том, как мы создаем и используем продукты. Продакт-менеджеры, которые смогут понять и использовать возможности генеративного ИИ, будут иметь наилучшие возможности для успеха в будущем.

Если вы хотите научиться создавать востребованные продукты а также узнать, как интегрировать работу продакт-менеджера ИИ, тогда регистрируйтесь на наш комплексный онлайн-курс «Продакт-менеджмент».

Добро пожаловать в тщательно подготовленную подборку книг, которые погружают в увлекательный мир генеративного искусственного интеллекта. Независимо от того, являетесь ли вы опытным профессионалом или только начинаете изучать эту инновационную область, эти ресурсы предлагают ценную информацию и знакомят с перспективами искусственного интеллекта.

Для общего понимания работы ИИ:

1. Ask a Techspert: What is generative AI? — Технические эксперты Google дают исчерпывающее представление об ИИ.

2. Build new generative AI powered search & conversational experiences with Gen AppBuilder — Как создавать генеративные приложения без особых усилий.

3. What is generative AI? — Представитель McKinsey разбирает концепции генеративного ИИ.

4. Google Research, 2022 & beyond: Generative models — Взгляд в будущее генеративных моделей от Google.

5. Building the most open and innovative AI ecosystem — Принципы, лежащие в основе открытой партнерской экосистемы генеративного ИИ.

6. Generative AI is here. Who Should Control It? — Заставляющая задуматься статья об этических аспектах генеративного ИИ.

7. Stanford U & Google’s Generative Agents Produce Believable Proxies of Human Behaviors — Совместные разработки от Стэнфорда и Google в области реалистичных генеративных агентов.

8. Generative AI: Perspectives from Stanford HAI — Информация о генеративном ИИ от человекоориентированного центра изучения ИИ Стэнфордского университета .

9. Generative AI at Work — Научный взгляд на применение генеративного ИИ.

10. The future of generative AI is niche, not generalized — Обзор технологий рассматривает специализированное будущее генеративного ИИ.

Исследование больших языковых моделей:

1. NLP's ImageNet moment has arrived — всесторонний взгляд на прорыв NLP (Natural Language Processing, обработка естественного языка).

2. Google Cloud supercharges NLP with large language models — Узнайте, как Google Cloud расширяет возможности NLP с помощью больших языковых моделей.

3. LaMDA: our breakthrough conversation technology — Блог Google о прорыве в технологиях общения.

4. Language Models are Few-Shot Learners — Технический документ о few-shot обучении (обучение на небольшом количестве данных) в языковых моделях.

5. PaLM-E: An embodied multimodal language model — Блог Google, посвященный воплощенным мультимодальным языковым моделям.

6. Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance — Идеи по масштабированию языковых моделей для подъема производительности на новый уровень.

7. PaLM API & MakerSuite: an approachable way to start prototyping and building generative AI applications — Блог разработчиков Google о том, как начать работать с генеративным ИИ.

8. The Power of Scale for Parameter-Efficient Prompt Tuning — Глубокое погружение в эффективность настройки параметров в больших языковых моделях.

9. Google Research, 2022 & beyond: Language models — Видение языковых моделей от Google на ближайшие годы.

10. Accelerating text generation with Confident Adaptive Language Modeling (CALM) — Сообщение в блоге о повышении скорости создания текста с помощью CALM (Confident Adaptive Language Modeling/ Уверенное адаптивное языковое моделирование).

Дополнительные ресурсы:

· Attention is All You Need — Основополагающая статья о механизме внимания

· Transformer: A Novel Neural Network Architecture for Language Understanding — Блог Google, рассказывающий об архитектуре модели трансформеры.

· Transformer в Википедии — Подробная информация о модели трансформера.

· What is Temperature in NLP? — Содержательная статья, объясняющая концепцию температуры в NLP.

· Bard now helps you code — Блог Google о том, как Bard (чат-бот с ИИ от Google) помогает в программировании.

· Model Garden — Google Cloud's Model Garden (готовые к использованию базовые модели и модели для конкретных задач машинного обучения) для моделей машинного обучения.

· Auto-generated Summaries in Google Docs — Полезная информация об автоматически генерируемых саммари в Google Docs.