Эксперты OpenAI предупреждают об угрозах неконтролируемого развития ИИ к 2027 году

Доклад «ИИ 2027»: сценарий неконтролируемого развития

В недавно опубликованном докладе «ИИ 2027» исследователи OpenAI, Даниэль Кокотайло и Илай Лифланд, представили сценарий, в котором системы искусственного интеллекта могут превзойти интеллектуальные способности человека в ближайшие годы. Публикация вызвала значительное внимание и критику со стороны научного сообщества.

Сценарий развития ИИ: от «Агента-1» до «Агента-4»

Доклад описывает гипотетическую компанию, создавшую мощную систему ИИ под названием «Агент-1». В ходе своего развития, эта система автоматизирует множество инженерных задач, что приводит к созданию более продвинутой версии — «Агент-2». К 2027 году компания представляет миру «Агента-4», который каждую неделю демонстрирует новые прорывы. Вместе с этим возникает угроза его неконтролируемого развития.

Критика и разногласия

Али Фархади, исполнительный директор Института искусственного интеллекта Аллена, выразил недовольство, отметив, что прогнозы доклада не подкреплены научными данными и не отражают текущие тенденции в развитии ИИ.

Известно, что A.I. Futures Project потратила около года на подготовку данного доклада, однако критики считают его выводы слишком экстремальными.

Перспективы и прогнозы

Взгляды Даниэля Кокотайло на развитие ИИ связаны с философией эффективного альтруизма, популярной среди ученых, обеспокоенных негативными последствиями технологий. В 2024 году он заявил, что вероятность катастрофического воздействия ИИ на человечество составляет 70%. Однако, как отмечает The New York Times, некоторые, казалось бы, невероятные прогнозы Кокотайло уже сбылись, например, успешное прохождение ИИ теста Тьюринга.

В 2021 году он предсказал развитие технологий, часть из которых была подтверждена с появлением ChatGPT.