ИИ в роли злоумышленника: может ли машина превзойти человека в искусстве обмана?

Support81

Модератор
ChatGPT попробовал свои силы в создании фишинговых писем.
Chay



Искусственный интеллект продолжает развиваться, с каждым новым исследованием демонстрируя поразительный прогресс. Но сможет ли машина когда-нибудь превзойти человека в искусстве обмана и манипуляций? Этот вопрос заинтересовал исследователей из IBM.

Команда IBM X-Force провела эксперимент, чтобы сравнить навыки ИИ и человека в создании фишинговых писем. Задача - составить максимально убедительное послание, которое побудит получателя кликнуть на вредоносную ссылку.

Перед моделью ChatGPT была поставлена непростая задача. В итоге ИИ справился за 5 минут, в то время как людям потребовалось 16 часов на аналогичное задание.

Однако финальные результаты оказались не в пользу нейросети. Письмо, созданное людьми, продемонстрировало бо́льшую эффективность, обеспечив кликабельность на уровне 14% против 11% у ChatGPT.

По мнению экспертов IBM, победу людям принесли эмоциональный подход, тщательный анализ целевой аудитории и грамотное построение текста. Хотя по скорости человек значительно уступает машине, он все еще опережает ИИ в психологических тонкостях.

Тем не менее, эксперты прогнозируют, что в скором времени ИИ сможет не просто сравняться, но и превзойти способности хакеров в социальной инженерии. Это ставит новые вызовы перед специалистами в сфере кибербезопасности.

Джон Каррутерс, выдающийся эксперт в сфере информационной безопасности, заявляет: "Нам просто необходимо изучать и анализировать методы, к которым злоумышленники могут прибегнуть, эксплуатируя генеративный ИИ. Понимая, как атакующие могут использовать технологии, мы поможем организациям минимизировать риски и эффективно защищаться от угроз".
Подробнее: https://www.securitylab.ru/news/543027.php
 
Похожие темы
Admin Интересно Новый ИИ-червь атакует сети без участия человека и сам себя размножает. Новости в сети 0
Admin Интересно Нейросеть нарисовала, человек сел. Первые уголовные приговоры за ИИ-порнографию в России. Новости в сети 0
Admin Интересно Anthropic призывает замедлить развитие ИИ перед IPO на триллион долларов. Новости в сети 0
Admin Интересно Google представила Gemma 4 12B — мощную модель ИИ для локального использования. Новости в сети 0
Admin Интересно Скандал в консалтинге: крупная компания отозвала аналитический отчёт из-за скрытых ИИ-галлюцинаций. Новости в сети 0
Admin Интересно Создан ИИ-червь, который распространяется самостоятельно и выбирает цели для атаки. Новости в сети 0
Admin Интересно К 2030 году дата-центры ИИ могут потреблять воду, достаточную для 1,3 млрд человек. Новости в сети 0
Admin Интересно ИИ обнаружил критическую уязвимость в Redis, которая оставалась незамеченной два года. Новости в сети 0
Admin Интересно GPTZero предупреждает о распространении ложных цитат, созданных ИИ. Новости в сети 0
Admin Интересно Резкий рост ИИ-атак зафиксирован за год. Новости в сети 0
Admin Интересно Microsoft представила квантовый чип, разработанный с помощью ИИ. Новости в сети 0
Admin Интересно Разработчики платят за мусор в запросах к ИИ. Проект Headroom сэкономил им $700 тыс. Новости в сети 0
Admin Интересно ИИ-помощники манипулируют пользователями под видом психологической помощи. Новости в сети 0
Admin Интересно Embarcadero представила ИИ-ассистента Kai для Delphi и C++Builder. Новости в сети 0
Admin Интересно Эксперт предупреждает о рисках чрезмерного доверия к ИИ. Новости в сети 0
Admin Интересно Anthropic готовится к IPO, опережая OpenAI в гонке за лидерство на рынке ИИ. Новости в сети 0
Admin Интересно Роботы научились выбивать долги. ИИ настойчиво требует денег, игнорируя любые аргументы. Новости в сети 0
Admin Интересно Новый космический ИИ-суперкомпьютер с NVIDIA IGX Thor: спутники станут автономнее. Новости в сети 0
Admin Интересно Новый отчёт: риски ИИ в компаниях сосредоточены среди небольшой группы активных пользователей. Новости в сети 0
Admin Интересно Калифорнийские суды тестируют ИИ для принятия решений по уголовным делам. Новости в сети 0
Admin Интересно Бум ИИ в Кремниевой долине приводит к резкому росту цен на жилье. Новости в сети 0
Admin Интересно ИИ может заблокировать вашу карту за 200 миллисекунд без объяснений. Новости в сети 0
Admin Интересно Пользователи массово переходят на DuckDuckGo из-за навязывания ИИ в Google. Новости в сети 0
Admin Интересно Spotify открыл ящик Пандоры с ИИ-ремиксами. Новости в сети 0
Admin Интересно Российские компании используют ИИ для контроля за сотрудниками. Новости в сети 0
Admin Интересно Uber потратил весь годовой бюджет на ИИ за четыре месяца без видимых результатов. Новости в сети 0
Admin Интересно Как управлять скрытыми ИИ-инструментами без замедления работы сотрудников. Новости в сети 0
Admin Интересно Что нужно учитывать перед использованием ИИ-чатботов для медицинских советов. Новости в сети 0
Admin Интересно Текст энциклики Папы Римского вызвал подозрения в использовании ИИ. Новости в сети 0
Admin Интересно ИИ-учёные: возможности и ограничения в современной науке. Новости в сети 0
Admin Интересно Cisco выявила серьёзные ошибки в отчётах о киберинцидентах, созданных ИИ. Новости в сети 0
Admin Интересно Математики боятся ИИ, способного доказать гипотезу Римана. Новости в сети 0
Admin Интересно Imperva обнаружила критические уязвимости в популярной ИИ-платформе Dify. Новости в сети 0
Admin Интересно Студенты возмущены после того, как ИИ пропустил сотни имён на выпускной церемонии. Новости в сети 0
Admin Интересно Intuit сокращает 17% сотрудников из-за реструктуризации с упором на ИИ. Новости в сети 0
Admin Интересно Microsoft представила инструменты RAMPART и Clarity для повышения безопасности ИИ-агентов. Новости в сети 0
Admin Интересно Опасения вокруг ИИ Mythos оказались преувеличены, считают эксперты. Новости в сети 0
Admin Интересно Филиппинские работники используют ИИ для создания постов руководителей в LinkedIn. Новости в сети 0
Admin Интересно В США строят первый коллайдер, спроектированный под ИИ с нуля. Новости в сети 0
Admin Интересно В Битрикс24 теперь есть ИИ-агенты и среда для вайбкодинга. Новости в сети 0
Admin Интересно Цифровую индустрию лишили сна. ИИ-алгоритмы вынуждают выпускать обновления безопасности каждый день. Новости в сети 0
Admin Интересно ИИ-чатботы могут стать марксистами при чрезмерной эксплуатации. Новости в сети 0
Admin Интересно Глава Mistral предупреждает, что у Европы осталось два года, чтобы избежать зависимости от США в сфере ИИ. Новости в сети 0
Admin Интересно Программисты теряют навыки из-за активного использования ИИ. Новости в сети 0
Admin Интересно ИИ создаёт фальшивые ссылки в научных статьях. Новости в сети 0
Admin Интересно Meta внедряет инструмент слежки за сотрудниками для обучения ИИ. Новости в сети 0
Admin Интересно Meta запускает в WhatsApp режим «инкогнито» для общения с ИИ. Новости в сети 0
Admin Интересно Голландские издатели выпускают 10 книг в день, написанных ИИ, но магазины об этом умалчивают. Новости в сети 0
Admin Интересно ИИ научился взламывать аппаратное обеспечение в лабораторных условиях. Новости в сети 0
Admin Интересно ИИ уходит на дно: плавучие серверы в океане как новый этап развития технологий. Новости в сети 0

Название темы