OpenAI ищет нового руководителя, который будет ответственным за изучение возникающих рисков, связанных с искусственным интеллектом, в различных сферах — от компьютерной безопасности до психического здоровья.
В посте на платформе X генеральный директор Сэм Альтман отметил, что модели искусственного интеллекта «начинают представлять собой определённые реальные вызовы», включая «потенциальное влияние моделей на психическое здоровье», а также модели, которые «настолько хорошо разбираются в компьютерной безопасности, что начинают находить критические уязвимости».
«Если вы хотите помочь миру понять, как обеспечить защитников в сфере кибербезопасности передовыми технологиями, одновременно гарантируя, что злоумышленники не смогут использовать их во вред, — желательно за счёт повышения общей защищённости всех систем, — а также решить, как мы будем раскрывать биологические возможности и обеспечивать безопасность систем с самосовершенствованием, пожалуйста, рассмотрите возможность подать заявку на эту позицию», — написал Альтман.
В описании вакансии «Глава по обеспечению готовности» говорится, что этот специалист будет отвечать за реализацию рамочной политики OpenAI по обеспечению готовности — «нашей стратегии, объясняющей подход компании к мониторингу и подготовке к появлению передовых возможностей, способных создавать новые риски серьёзного вреда».
Заработная плата на этой должности составляет 555 000 долларов США плюс доля в акционерном капитале.
О создании команды по обеспечению готовности компания впервые объявила в 2023 году и тогда уточнила, что её задача — изучать возможные «катастрофические риски», как более актуальные (например, фишинговые атаки), так и более гипотетические, такие как ядерные угрозы.
Менее чем через год OpenAI перевела Александра Мадри, занимавшего должность главы по обеспечению готовности, на работу, связанную с исследованием рассуждений и мышления искусственного интеллекта. Другие руководители по вопросам безопасности также покинули компанию или перешли на должности вне сферы готовности и безопасности.
Недавно OpenAI также обновила свои рамки по обеспечению готовности, заявив, что может «скорректировать» требования по безопасности, если конкурирующая лаборатория искусственного интеллекта выпустит «модель с высоким уровнем риска» без подобных мер защиты.
Как намекал Альтман в своём посте, генеративные чат-боты с искусственным интеллектом всё чаще подвергаются критике из-за их воздействия на психическое здоровье. Недавние судебные иски утверждают, что ChatGPT компании OpenAI усиливал заблуждения пользователей, увеличивал их социальную изоляцию, а в некоторых случаях даже приводил к суицидам. (В компании заявили, что продолжают работать над улучшением способности ChatGPT распознавать признаки эмоционального стресса и обращаться к пользователям с рекомендациями о реальной психологической поддержке.)