Киберэксперт Коваленко рассказал об особенностях «рассуждающей» ИИ от OpenAI

Искусственный интеллект из семейства «рассуждающих» моделей o3 от OpeAI не просто отвечает, а действительно «думает» — связывает факты, делает выводы и решает сложные задачи. Об этом рассказал «Постньюс» Директор Центра противодействия мошенничеству компании «Информзащита» Павел Коваленко.

Он отметил, что такие модели уже есть у Google (Gemini), Anthropic (Claude) и других компаний. В простых задачах они уже могут заменить живого собеседника и даже некоторых специалистов — нейросеть способна писать код, делать сводки новостей и помогать с анализом. «Но креативность, понимание эмоций и нестандартное мышление — это пока только у людей», — отметил Коваленко.

Не лишена новая модель и уязвимостей, главные из которых — источники данных и возможность атак через запросы. Если же модель обучалась на приватных данных, то они могут утекать в ответах. Также остаются риски «jailbreak-атак», когда пользователя обманывают модель и заставляют выдавать скрытую информацию, подчеркнул киберэксперт.

А потому, по его словам, использование искусственного интеллекта в критически важных процессах без защиты — это потенциальная угроза безопасности, которой могут воспользоваться злоумышленники.