Профессор MIT: за тексты от ИИ должен отвечать человек
За текст, подготовленный с помощью искусственного интеллекта, отвечать должен конкретный человек. Такую позицию высказал Деб Рой — директор Центра конструктивной коммуникации MIT и профессор медиаискусств и наук этого вуза. Об этом сообщает Science XXI.
Свои доводы он изложил в эссе «Кто стоит за словами?», вышедшем в Bulletin of the Atomic Scientists. Если высказывания, порождённые машиной, нельзя связать с тем, кто готов за них держать ответ, доверие к общественным обсуждениям может разрушиться.
Поводом для размышлений стал запуск ChatGPT. Рой и прежде занимался языковыми моделями, и новый сервис, по его наблюдениям, изменил сразу две вещи: глубину обработки информации и сам способ общения с пользователем. Он пробовал нащупать пределы возможностей системы, но вывод получился иным: убедительное звучание текста ничего не говорит о том, кто несёт за него ответственность.
Отдельная тема — общественные слушания по государственным решениям. В 2017 году Федеральная комиссия по связи США собрала больше 22 млн комментариев к идее отменить правила сетевого нейтралитета. Позже генпрокурор Нью-Йорка установил: почти 18 млн отзывов оказались поддельными. Раньше подлог выдавали шаблонные формулировки и повторяющиеся куски, но большие языковые модели выдают разные и грамотно составленные тексты, в которых таких примет нет.
По мысли Роя, право быть услышанным неотделимо от обязанности отвечать за сказанное. Он оперирует понятием standing — основания для участия в дискуссии, связанного с личной заинтересованностью. Цифровые системы, считает учёный, размывают границы, которые прежде отделяли участника от постороннего наблюдателя. При этом анонимность не обязательно снимает ответственность: организация вправе подтвердить личность автора и отвечать за его слова, не раскрывая её публично. А требования раскрыться зависят от влияния высказывания и уязвимости говорящего.
Допустимым Рой называет такой сценарий: человек берёт сгенерированный черновик, принимает его как собственный и готов объяснить сказанное. ИИ способен обобщать ответы, находить общие темы, готовить заготовки, но последним звеном в цепочке ответственности он быть не должен. В эссе предложены четыре принципа: устанавливаемое авторство, проверяемый поэтапный процесс, сохранение происхождения данных и расширение круга людей, имеющих право голоса.
На этих принципах строят работу Центр конструктивной коммуникации MIT и некоммерческая Cortico, основанная Роем вместе с коллегами. Проекты Real Talk и realtalk@MIT ведут небольшие групповые обсуждения, помогают увидеть общие темы и оставляют участникам возможность проверить или отклонить результаты обработки. В инициативе VoiceTrace каждое итоговое утверждение привязано к конкретным высказываниям, из которых оно выведено. Проект New Social Forms изучает, как ИИ влияет на взаимодействие сотрудников и согласование идей в командах.
Внедрять технологии Рой советует со скоростью доверия, а не со скоростью технического развития. Доверие позволяет сообществам быстро принимать новые решения, тогда как попытка ускорить процесс без участия людей ведёт к сопротивлению. Темпы развития ИИ и демократических процедур пока расходятся, поэтому технология может пойти в дело раньше, чем общественные институты успеют на неё отреагировать.
