Как работают AI-модели

Давай разберёмся, как на самом деле работают AI-модели — без магии и без «чёрного ящика на вере».

Удобно думать о них как о супер-умных general-purpose API endpoints. Ты уже привык подключать Stripe для платежей или Twilio для SMS. С моделью похоже: ты вызываешь endpoint и просишь решить задачу — написать код, объяснить баг, набросать план.

Самое важное отличие: тебе не гарантируют одинаковый результат каждый раз.

Deterministic vs probabilistic

Обычный софт — deterministic. Дал тот же input → получил тот же output. Разработчик явно прописал ветки «как должно быть».

AI-модели — probabilistic. При одном и том же input у модели много возможных путей ответа. Она не «достаёт готовый ответ из таблицы», а каждый раз выбирает следующий кусок текста с некоторой вероятностью.

Первый кирпич твоей mental model:

Никогда не предполагай, что один и тот же prompt гарантированно даст один и тот же ответ.

Как модель вообще решает, что выдать? Под капотом она предсказывает следующий chunk текста (token) на основе двух вещей:

1. Того, на чём модель была trained (обучена)
2. Того, что ты дал на вход — это и есть prompt

Возьми prompt вроде: «What is the meaning of life? Respond with a single word.» Модель не «знает истину» — она предсказывает следующее слово. Отсюда два практических следствия:

1. Одна и та же модель + один и тот же prompt могут ответить по-разному
2. Модели не всегда строго следуют инструкциям — даже простым вроде «ответь одним словом»

Как выбирать модель

Модели отличаются по четырём осям: intelligence, скорость, цена и сильные стороны. Одни быстрые и дешёвые, но слабо тянут глубокие технические задачи. Другие медленнее и дороже, зато умеют «думать» дольше и лучше держат сложные multi-step задачи.

Идеал — модель, которая одновременно умная, быстрая и дешёвая. Существует ли она «прямо сейчас» — зависит от твоего use case. Для написания софта современные frontier-модели уже очень сильны в широком круге coding-задач.

Новые модели выходят почти каждый месяц, и state of the art постоянно переписывается. Рассчитывай, что через пару релизов появятся модели ещё умнее — особенно в coding, planning и длинных agent-сценариях.

Практический совет: не привязывайся к одному имени навсегда. Держи в голове trade-off «цена / скорость / качество» и меняй модель под задачу: быстрый черновик — на лёгкой модели, сложный рефакторинг — на более сильной.

Modalities

С моделями можно работать через разные modalities — каналы ввода/вывода: текст в чате, генерация картинок, голос, иногда даже видео из prompt’а.

Качество растёт быстро. Ещё недавно video generation выглядела игрушечно, сейчас — уже близко к «достаточно реалистично для прототипов». Для разработки софта чаще всего полезны три modality:

1. Текст — описываешь продукт или фичу и вместе с AI собираешь план
2. Картинки — кидаешь мокап UI или скрин и просишь поправить spacing / цвета / layout
3. Голос — надиктовываешь длинный brief, вместо того чтобы печатать стену текста

Прежде чем учиться «правильно промптить», полезно понять ограничения моделей. Об этом — в следующем уроке.