В УрФУ сообщили, что фильтры ИИ мешают ставить научные опыты по химии
Фильтры нейросетей мешают химикам подбирать наглядные опыты, заявил Александр Иванов из УрФУ. Он ведущий инженер кафедры, где изучают редкие металлы и наноматериалы, и автор блога «Химия — Просто». Об этом сообщает издание RuNews24.ru.
По наблюдению Иванова, алгоритмы помогают придумывать сценарии и выбирать эффектные реакции. Однако в ответ на запрос система нередко предупреждает: для подобных экспериментов нужны подготовленные профессионалы. Полезной инструкции химик не получает.
Год назад, передаёт ТАСС, те же модели предлагали больше вариантов реакций. Среди них встречались соединения, которых в природе не существует. Теперь цензура стала жёстче, ограничения касаются и безопасных реакций.
Опытные химики, добавил Иванов, сами отсеивают ложные ответы и проверяют рекомендации. Людям без специальной подготовки сложнее заметить фактические ошибки. Из-за лишних запретов ИИ приносит меньше пользы тем, кто популяризирует науку.
