Создание ИИ, который самостоятельно генерирует текст [закрыто]
Задать вопрос
Запрошено: 5 лет назад, 11 месяцев назад
Изменено: 3 дня назад
Просмотрено: 740 раз

**Запрошено:** 5 лет назад, 11 месяцев назад
**0**

$\begingroup$
Теперь я понимаю, что это может нарушать некоторые правила StackExchange, и я открыт к удалению темы, если она нарушает эти правила! Я пытаюсь создать ИИ, способный написать собственную книгу, и понятия не имею, с чего начать и какие алгоритмы и подходы использовать. С чего мне стоит начать и что именно нужно для такого проекта?
нейронные-сети машинное-обучение глубокое-обучение искусственные-нейроны

Поделиться Улучшить этот вопрос Следить отредактировано 7 дек. 2019 г., 14:51 задано 7 дек. 2019 г., 14:43 Thorvald 151 1 золотой знак 2 серебряных знака 8 бронзовых знаков $\endgroup$

**3**

$\begingroup$
Генерация текста имеет долгую историю в вычислительной технике, и существует множество областей искусственного интеллекта, которые могли бы пригодиться. Этот вопрос мог бы соответствовать тематике сайта, если вы подробнее расскажете о целях вашего проекта и о том, где вы застряли. Мне кажется, детали относительно природы книги и её цели важны, потому что современные методы обработки естественного языка способны генерировать тексты определённых стилистических форм, однако такие тексты часто представляют собой бессмысленную чепуху. Посмотрите на talktotransformer.com — возможно, именно такой тип генерации текста вы имели в виду?

$\endgroup$ Neil Slater
— Neil Slater
2019-12-07 15:05:18 UTC
Комментировал 7 декабря 2019 года в 15:05

**$\begingroup$**
Что-то вроде этого, но не совсем точное совпадение. Я хочу сделать нечто подобное, когда загружаю в ИИ несколько исторических книг о стране (это всего лишь пример, поскольку я не могу раскрыть цель ИИ), и он создаёт альтернативную историю этой страны.

$\endgroup$ Thorvald
— Thorvald
2019-12-07 15:14:28 UTC
Комментировал 7 декабря 2019 года в 15:14

**1**

$\begingroup$
Хорошо, придумайте какую-нибудь альтернативную, но похожую цель, подобную той, которую вы предложили, и добавьте её в ваш вопрос. Думаю, то, что вы хотите получить, выходит за рамки современных методов искусственного интеллекта, особенно если вы ожидаете, что результат будет иметь какой-либо смысл. Возможно, вам поможет понимание, является ли ваша цель реальной задачей по созданию подобного ИИ (невозможной задачей для 2020 года) или же целью лучше разобраться в технологиях, которые могут быть задействованы в таком проекте, и почему это сложно реализовать.

$\endgroup$ Neil Slater
— Neil Slater
2019-12-07 15:23:17 UTC
Комментировал 7 декабря 2019 года в 15:23

Добавить комментарий | 2 Ответа
Сортировка: По умолчанию Высший балл Дата изменения (новейшие сначала) Дата создания (старейшие сначала)

**3**

$\begingroup$
Было предложено много методов генерации текста, но рекуррентная сеть доминирует в обработке естественного языка благодаря ключевому компоненту: восприятию времени. Многие сети были опробованы для генерации текста, среди заметных примеров — цепочка Маркова. Однако было доказано, что рекуррентные нейронные сети работают наилучшим образом и занимают лидирующие позиции в области моделирования языка (генерации текста).

## Как работает генерация текста

Нейронная сеть, генерирующая текст, обычно называется языковой моделью. Она обучается на больших объёмах текста, метки которого являются следующим токеном. Процесс генерации текста начинается с нескольких случайных токенов в качестве начальной фразы, после чего сеть предсказывает оставшуюся часть. Однако сеть не просто прогнозирует наиболее вероятное слово, а случайно выбирает одно из немногих наиболее вероятных токенов, отсюда и процесс генерации.

## Почему рекуррентные сети показывают лучшие результаты в моделировании языка

Рекуррентные нейронные сети имеют встроенное восприятие времени в архитектуру своей сети. Например, популярная разновидность RNN — LSTM состоит из «единиц памяти», которые «помнят» предыдущий текст, таким образом обеспечивая аспект «времени». Рекуррентные сети обрабатывают входные данные согласно последовательности во времени, позволяя естественным образом понимать время, что объясняет превосходную производительность по сравнению с другими сетями.

## Архитектура языковой модели

Языковая модель включает две части: кодировщик и декодер. Кодировщик сжимает представление слова в виде одного горячего вектора до представления меньшего размера. Затем уменьшенное представление проходит через декодер, который отображает сжатое представление обратно в один горячий вектор слов.

## Современные достижения в моделировании языка

Моделирование языка активно исследуется в сфере искусственного интеллекта.