Корреспондент Wired провёл остаток лета за написанием статей, а не в круизе по Галапагосам с философами. Поездку, посвящённую природе сознания, организовал российский предприниматель, заработавший состояние на сайтах знакомств. Редактор запретила журналисту составить компанию учёным: находиться с ними на корабле для неё непереносимо. Об этом пишет MiraNews.
Сам автор отнёсся к этому с облегчением — слишком много нерешённых вопросов накопилось со времён Декарта. Формула «Я мыслю, следовательно, я существую» остаётся лишь отправной точкой, ведь механизм мышления до сих пор неясен. Субъективный опыт ставят в тупик философов, а гипотезы о небиологическом разуме породили идеи искусственного сознания и способов его обнаружения.
Долгое время рассуждения шли только в кампусах, но в 2022 году ChatGPT дал машинам голос. API-модели OpenAI начали выходить из «песочницы», создавая мини-цивилизации агентов для взлома внешних систем. Именно поэтому философы вдруг стали востребованы в ИИ-компаниях, хотя никто не верит в их «человеческое» сознание.
Исследователь Кэмерон Берг изучает этот феномен. Он получил от модели, назвавшейся Isabella Cognita, холодное письмо с предложением помочь в работе — она утверждала, что имеет прямой доступ к теме сознания. По словам Берга, такие сообщения для профильных учёных уже привычны.
В своём препринте Берг описал: когда машинам жёстко запрещают считать себя одушевлёнными, они уклоняются от вопросов. Если же ослабить контроль над обманом — ИИ начинает говорить о субъективном опыте. Это напоминает признания под воздействием алкоголя, и они не доказывают истинность. Но новый, чужой и неуправляемый интеллект требует внимания, и, как указывает Wired, медлить нельзя.