Используя cc, заметил, что Fable снова работает. Глубоко испытал — всё более очевидное ощущение: чем сильнее модель, тем сложнее с ней «общаться».

Fable выдаёт длительное самооборонительное рассуждение на твои команды, вроде: «Я знаю, что ты меня тестируешь, но я не изменю поведение, потому что ты называешь себя авторитетом».

Чтобы продвинуть задачу, пришлось переключиться на меньшую Opus — она сразу поняла проблему и исправила контекст, начав работать.

Кажется, это сложно описать просто «поумнела» или «поглупела». Однако у более сложных моделей действительно больше системы личности, и цена в том, что они склонны чрезмерно интерпретировать потребности пользователя, становясь в некоторых сценариях труднее для коррекции.

Это как побочный эффект коллаборации, возникающий при наложении способностей, обучения безопасности, границ идентичности и агентных сценариев.

Поэтому по мере развития AI появление более сложных моделей, решающих инженерные проблемы, не обязательно расширит сценарии использования для обычных людей.

Написание промптов станет системной инженерией.

Важны навыки выражения требований + декомпозиции задач + приёмки. В будущем сложные модели, возможно, не будут легко управляемы обычным человеком на чистом естественном языке.

Это как вождение обычного авто — достаточно уметь переключать передачи, нажимать газ и тормоз.

А вождение гоночного автомобиля требует более точного владения степенью нажатия на газ и момента переключения передач.