Теория LLM

Генеративный ИИ относится к алгоритмам, которые могут генерировать новый контент, в отличие от анализа существующих данных или воздействия на них, как более традиционные системы машинного обучения с прогнозированием или искусственного интеллекта.

Температура модели - степень вариативности (креативности). При t=0.1 креативности нет.

Параметр top-p выдает элементы в зависимости от вероятности (суммы). Может быть 4, ...

Параметр top-k просто например 3 значения с наивысшей вероятностью. Будет только 3 значения.