Корпорация Майкрософт объявила о доступности новых функций безопасности с использованием ИИ в Azure AI Content Safety и Azure OpenAI Service. Новые функции включают быстрое экранирование и обнаружение защищенных материалов. Prompt Shields - решение с ИИ для защиты от прямых иMeer tonen косвенных атак с использованием prompt injection. Prompt Shields интегрируется с фильтрами содержимого Azure OpenAI и защитой контента Azure AI. Решение использует передовые алгоритмы машинного обучения и обработки естественного языка для выявления и устранения угроз в пользовательских запросах и данных. Prompt Shields обеспечивает оперативную защиту от прямых и косвенных атак. Обнаружение защищенных материалов защищает от информации, нарушающей авторские права, с помощью заполнения LLM и сканирования на предмет совпадений с индексами текстового контента сторонних производителей. Функции Prompt Shield и обнаружения защищенных материалов доступны в Azure AI Content Safety и Azure OpenAI Service.
https://vk.com/rutechspot#291cab59fd5088600ca8f40636bac2f5
Комментариев нет:
Отправить комментарий