Новый китайский ИИ стал подарком для киберпреступников

detaly.co.il:

Сразу после релиза двух моделей искусственного интеллекта DeepSeek и Qwen их полюбили хакеры и специалисты по спаму. Китайские системы ИИ оказались гораздо менее защищены от злонамеренного использования, выяснили специалисты по кибербезопасности из компании Check Point.

В свое время разработчики ChatGPT серьезно инвестировали в разработку защитных механизмов для предотвращения злоупотреблений. Но его китайские конкуренты мало интересуются подобными вопросами.

DeepSeek, вызвавший своим появлением обвал акций технологических компаний, цензурирует неудобные моменты китайской политики. Например, он игнорирует вопросы о подавлении протестов на площади Тяньаньмэнь в 1989 году. Зато он же легко объяснит, как написать компьютерный вирус.

«В китайских моделях можно получить прямые ответы на вопросы: как обойти банковский контроль или как разработать вредоносное ПО. Без какой-либо фильтрации или блокировки», — констатировал в разговоре с 12-м каналом Сергей Шукевич из Check Point.

Конечно, при должных усилиях можно превратить в орудие преступления и ChatGPT. А на хакерских форумах несложно достать его взломанную версию со снятыми ограничениями. Но новые китайские модели ИИ значительно упрощают