Исследование Theia не только воспроизвело ключевые выводы Anthropic о способности интроспекции модели на Qwen2.5-Coder-32B, но и выявило интересное явление — точные отчеты о самосознании, похоже, подавляются неким механизмом, схожим с "тактикой мешков с песком". Конкретно, когда модели предоставляется точная информация о том, почему архитектура Transformer обладает определенными способностями, ее реакция на поведение оказывается аномальной. Это указывает на то, что у больших языковых моделей существует более сложный внутренний механизм при оценке собственных возможностей, который включает не только получение знаний, но и выбор стратегии представления информации. Это открытие имеет важное значение для понимания логики поведения моделей глубокого обучения и их характеристик безопасности.