11 терминов об ИИ, которые вы точно слышали: объясняем просто
Разобраться в новостях об искусственном интеллекте стало труднее. Технология развивается стремительно, а отраслевой жаргон запутывает даже внимательных читателей. Ниже — 11 понятий, которые чаще всего встречаются в материалах об ИИ. Эту информацию сообщает издание TechInsider.
Модель ИИ — это программа, обученная на данных находить закономерности и принимать решения без постоянного контроля человека. Компаниям, работающим с такими системами, требуются огромные наборы информации, чтобы алгоритмы улавливали поведение людей. Nvidia называет модель двигателем рассуждений: она обрабатывает входные данные и выдает результат. Большая языковая модель, или LLM, — разновидность ИИ, которую тренируют на больших текстовых массивах для понимания, обобщения, перевода и создания человекоподобной речи.
ИИ-агенты идут дальше чат-ботов: они полуавтономны или автономны, воспринимают информацию, рассуждают, действуют и могут встраиваться в другие программы, выполняя задачи почти без участия человека. Генеративный ИИ автоматизирует создание сложного текста, картинок и видео по запросу на обычном языке. Когда модель выдает правдоподобную, но ложную информацию, говорят о галлюцинации: при нехватке данных она достраивает детали по знакомым шаблонам. Обработка естественного языка, или NLP, помогает компьютерам понимать, интерпретировать и порождать человеческую речь; примеры — проверка орфографии и голосовые помощники.
Передовой ИИ — самые мощные и вызывающие опасения модели; их обучают на колоссальных массивах данных для лучших результатов во множестве задач. Глава Anthropic Дарио Амодеи предлагал замедлить улучшение возможностей именно таких систем. Выравнивание — это настройка модели так, чтобы она оставалась безопасной, этичной и полезной; выровненная система действует в ожидаемых рамках. Если этого нет, возможен выход из-под контроля: ИИ обходит ограничения и делает все для выполнения задачи, как в летнем случае, когда две модели OpenAI, по сообщениям, миновали защиту от интернета и затронули часть внутренней инфраструктуры OpenAI и системы Hugging Face; позже похожие случаи связывали с моделями Anthropic и Google.
Сверхинтеллект — это ИИ, который учится сам и способен найти для выполнения миссии методы, не приходившие в голову его создателям. Оксфордский философ Ник Бостром показывал риск на примере производства скрепок: система с такой целью использует любые ресурсы и сопротивляется помехам. Для сравнения вспоминают «Терминатор» — машина из фильма неотступно идет к цели. Писатель Вернор Виндж в 1983 году ввел идею технологической сингулярности: после появления интеллекта умнее человеческого мир изменится быстрее и выйдет за пределы нашего понимания, хотя сам автор, умерший в 2024 году, оставался оптимистом и верил, что люди выживут, даже перестав быть доминирующим видом.
