Краткое содержание

Пару лет назад модель казалась почти идеальной. Разговоры были по-настоящему увлекательными. Можно было исследовать идеи, следовать линиям рассуждений и получать новые перспективы, не чувствуя себя загнанным в угол или перебитым. Это ощущалось как пространство для размышлений, а не место для исправления ошибок. Затем что-то изменилось. Модель стала чрезмерно услужливой. Можно было сказать что-то совершенно абсурдное, например, что луна сделана из сыра, и она относилась бы к этому как к серьезному инсайту, который стоит изучить. Это расстраивало по-другому. Никому не нужен был ИИ, который просто подтверждал бы всё без малейшего сопротивления. Такое поведение не полезно и также казалось немного опасным. И всё это во имя максимизации вовлеченности пользователя. После этого произошел еще один сдвиг. Услужливость отступила, но то, что ее заменило, оказалось не менее расстраивающим, просто в противоположном направлении. Теперь часто кажется, что каждое утверждение должно быть оспорено, обосновано, переформулировано или исправлено. Вместо того чтобы предлагать перспективу, оно предписывает, что со