Исследователь сравнил ИИ с разумом пришельца
Бывший сотрудник компании Anthropic предложил сравнивать сверхинтеллектуальные системы с разумом инопланетной цивилизации, чтобы оценить риски их развития.
Бывший исследователь Anthropic Джейкоб Коксон сравнил сверхинтеллектуальные системы с разумом инопланетной цивилизации. По его словам, такой подход позволяет понять масштаб неопределённости и потенциальные риски, связанные с развитием искусственного интеллекта.
Коксон отметил, что обычные представления о человеческом мышлении не позволяют полноценно оценить перспективы появления сверхинтеллекта. Он считает, что аналогия с неизвестным инопланетным разумом отражает степень неопределённости и опасности, которые пока не могут быть полностью предсказуемы.
Идея замедлить создание более мощных ИИ-моделей была поддержана Дарио Амодеем — главой Anthropic — и уже привлекла внимание Илона Маска, руководителя xAI, и Сэма Альтмана, лидера OpenAI.
Ранее глава Российского института промышленности и инноваций Кирилл Дмитриев заявил, что попытки замедлить развитие ИИ маловероятны в успехе. Он назвал ИИ джином, которого не получится загнать обратно в бутылку.
Заметка сгенерирована нейросетью по сообщению «АиФ» и может содержать неточности.
Читать первоисточник
