Глава Anthropic обещает развивать ИИ под контролем людей, несмотря на давление
Anthropic провела на Nasdaq крупнейшее IPO в истории. В день дебюта генеральный директор компании Дарио Амодеи подтвердил курс на ответственное развитие ИИ. Об этом пишет сайт Science XXI.
Перед началом торгов Амодеи заявил: компания не уступит давлению — ни деловому, ни политическому. ИИ, по его мнению, способен ускорить исследования в медицине и биологии. Замысел Anthropic он связал и с семейной историей: отец руководителя умер от болезни, которая через несколько лет стала излечимой.
Человечество уже победило чуму, оспу и полиомиелит, напомнил глава Anthropic. Однако у научных команд по-прежнему мало времени и кадров. ИИ, работающий вместе с людьми, поможет быстрее разрабатывать лекарства, изучать белки, исследовать рак и проводить клинические испытания. Амодеи допустил, что развитые системы заметно сократят сроки медицинского и научного прогресса.
При этом Амодеи предупредил об угрозах, которые несут отдельные люди и государства, использующие ИИ. Среди последствий он назвал экономические потрясения и утрату контроля над системами. В Anthropic считают: избежать этого помогут защитные меры, обучение и тестирование моделей, а также постоянное наблюдение за их поведением. По данным TechCrunch, он также призвал многократно проверять безопасность создаваемых систем.
Амодеи заверил: компания будет сама задавать темпы разработки и запуска ИИ. Она потратит столько времени, сколько нужно для проверки безопасности и сохранения человеческого контроля, и не изменит подход из-за коммерческих или политических обстоятельств. Сооснователь Anthropic Даниэла Амодеи в интервью CNBC поддержала брата: риски ИИ она назвала реальными, а его возможности — невероятными. Компания, по её словам, появилась именно для снижения этих угроз и в дальнейшем сосредоточится на безопасности.
