Что, если проблема остановки накладывает какие-либо ограничения на Искусственный Интеллект? Задать вопрос

Задано 9 лет, 6 месяцев назад Изменено сегодня Просмотрено 4 тыс. раз

Задано 9 лет, 6 месяцев назад

21 $\begingroup$ Учитывая доказанную проблему остановки для машин Тьюринга, можем ли мы вывести ограничения на возможности сильного Искусственного Интеллекта? agi теория вычисления ограничение проблемы остановки машина Тьюринга Поделиться Улучшить вопрос 13 окт. 2021 г., 0:31 nbro 43,2 тыс. 14 14 золотых значков 121 121 серебряный значок 222 222 бронзовый значок задано 2 авг. 2016 г., 21:16 WilliamKF 2,553 2 2 золотых значка 27 27 серебряных значков 31 31 бронзовый значок $\endgroup$ 0 Добавить комментарий | 3 Ответа 3 Сортировка по: Сбросить по умолчанию Наивысший рейтинг (по умолчанию) Измененная дата (от новых к старым) Созданная дата (от старых к новым) 11 $\begingroup$ Не подразумевает ли проблема остановки каких-либо ограничений на человеческое познание? Да, абсолютно – существуют фрагменты кода, которые человек мог бы посмотреть и не быть уверенным, остановится ли он в конечном итоге. (Безусловно, есть фрагменты кода, которые человек может посмотреть и сказать "да" или "нет", определенно, но мы говорим о тех, которые действительно довольно трудно анализировать). Проблема остановки означает, что существуют типы анализа кода, которые никаким компьютером нельзя выполнить, потому что это математически невозможно. Но область возможностей все еще достаточно велика, чтобы позволить сильный искусственный интеллект (в смысле кода, который может достаточно хорошо понимать себя, чтобы улучшать его сам). Поделиться Улучшить ответ Следить за ответом Отвечено 3 авг. 2016 г., 2:17 Matthew Gray 4,282 20 20 серебряных значков 29 29 бронзовый значок $\endgroup$ 1 $\begingroup$ Проблема остановки означает, что ни один единичный (конечный) метод не может решить, остановится ли какая-либо программа в конечном итоге. Это не означает, что существуют проблемы, которые нельзя решить (что, конечно, существует, но причины обычно разные). kakaz – kakaz 2017-12-10 19:12:55 +00:00 Комментировано 10 дек. 2017 г., 19:12 Добавить комментарий | 13 $\begingroup$ Проблема остановки является примером общего явления, известного как недетерминированность, которое показывает, что существуют проблемы, которые машина Тьюринга не может решить за конечное время. Рассмотрим обобщение, что невозможно определить, удовлетворяет ли машина Тьюринга некоторому нетривиальному свойству P, называемому теоремой Райса. Обратите внимание, что проблема остановки применима только в том случае, если машина Тьюринга принимает бесконечный ввод. Если вход ограничен, возможно, перечислить все возможные случаи и проблема больше не является недетерминированной. Возможно, все еще будет неэффективно вычислять ее, но тогда мы переходим к теории сложности, которая должна быть отдельным вопросом. Теорема Райса подразумевает, что интеллект (человек) не может определить, обладает ли другой интеллект (например, AGI) определенным свойством, таким как дружелюбие. Это не означает, что мы не можем спроектировать дружелюбный AGI, но это означает, что мы не можем проверить, является ли произвольный AGI дружелюбным. Таким образом, хотя мы можем создать ИИ, который гарантированно будет дружелюбным, нам также нужно убедиться, что он не может создать другой ИИ, который будет враждебным. Поделиться Улучшить ответ Следить за ответом Изменено 3 авг. 2016 г., 18:25 Eric Platon 1,510 10 10 серебряных значков 22 22 бронзовый значок Отвечено 3 авг. 2016 г., 4:22 Harsh 1,343 8 8 серебряных значков 22 22 бронзовый значок $\endgroup$ 1 $\begingroup$ Я разделил квантовую аспект вопроса на новый вопрос здесь: ai.stackexchange.com/q/186/55 WilliamKF – WilliamKF 2016-08-03 06:21:45 +00:00 Комментировано 3 авг. 2016 г., 6:21 Добавить комментарий | 0 Если люди не ограничены таким же образом, как компьютеры, из-за проблемы остановки, то AGI невозможно. Поделиться Улучшить ответ Следить за ответом Отвечено 2 часа назад yters 427 4 4 серебряных значков 12 12 бронзовый значок $\endgroup$ Добавить комментарий | Вам необходимо войти в систему, чтобы ответить на этот вопрос. Начните задавать вопросы, чтобы получить ответы Исследуйте связанные вопросы agi теория вычисления ограничение проблемы остановки машина Тьюринга