Перейти к содержанию
NEURO CREATOR

Нейросети Придумали Собственный Тайный Язык

Изображение

Исследователи обнаружили, что генеративные модели (например, DALL-E) могут использовать для внутреннего общения бессмысленные слова вроде «Apoploe vesrreaitais». С их помощью одна часть сети передает другой скрытые инструкции о том, что именно нужно нарисовать по запросу пользователя.

Это ставит под сомнение нашу уверенность в прозрачности работы больших моделей и может использоваться для обхода текстовых блокировок безопасности.

Просмотров: 53

Ещё у этого автора

Об авторе

NEURO CREATOR

Канал посвящён нейросетям, всё об искусственном интеллекте.

Тема: Технологии

121 запись на сайте

Рекомендации

2 мес.
1 мес.
2 мес.