Admin
Администратор
Компания Anthropic предложила замедлить разработку мощных ИИ-моделей, несмотря на собственные планы по выходу на биржу с оценкой почти в триллион долларов.
Anthropic считает, что обществу необходимо временно остановить гонку передовых технологий, чтобы правила и исследования по контролю ИИ успевали за их развитием.
Anthropic предупреждает о рисках рекурсивного самоулучшения ИИ, когда модели помогают создавать более мощные версии самих себя. Компания предлагает международные соглашения, аналогичные ядерным договорам, для контроля за развитием ИИ. Однако момент для такого заявления выглядит неудобным, учитывая быстрый рост Anthropic и её планы по IPO. Компания также сообщила о привлечении $65 млрд в рамках раунда Series H и подготовке к выходу на биржу. Параллельно растёт общественное недовольство строительством дата-центров, которые требуют огромных ресурсов. Anthropic признаёт, что развитие ИИ может упереться в ограничения, связанные с проверкой кода и выбором направления исследований.
