Опыт работы по составлению запросов в нейронных сетях

  • Общий промтинг / Zero-shot (без примеров)

    Zero-shot — это самый простой тип промта, где задача описывается без примеров. Модель получает только инструкцию и исходные данные (вопрос, начало текста и т. д.).

  • One-shot и Few-shot (с примерами)

    Эти техники включают демонстрацию модели одного или нескольких примеров выполнения задачи.

  • Системные, контекстные и ролевые промты

    Эти техники помогают управлять стилем и содержанием ответов модели.

  • Step-back prompting — это техника, при которой LLM сначала отвечает на общий вопрос, связанный с задачей, а затем использует этот ответ для решения конкретной проблемы. Это помогает модели активировать релевантные знания и логические цепочки перед генерацией финального ответа.

    Преимущества:

    • Уменьшает ошибки и предвзятость, фокусируясь на принципах, а не на деталях.

    • Улучшает креативность и точность ответов.

  • Chain of Thought (CoT, Рассуждение шагами)

    CoT — техника, где LLM генерирует промежуточные логические шаги перед финальным ответом.

    Плюсы:

    • Улучшает точность в задачах, требующих вычислений или анализа.

    • Позволяет отследить ошибки в рассуждениях.

  • Self-consistency (Самосогласованность)

    Self-consistency комбинирует несколько CoT-ответов с высоким значением температуры, чтобы выбрать наиболее частый вариант через «голосование».

    Пример (классификация email):

    1. Промт:

       
      Copy
      Определи, важно ли письмо от "Гарри-хакера" о баге в WordPress.  
    2. Несколько попыток с температурой = 1:

      • Попытка 1: IMPORTANT (из-за угрозы JS-инъекции).

      • Попытка 2: NOT IMPORTANT (тон письма несерьезный).

      • Попытка 3: IMPORTANT (риск взлома).

    3. Итог: Выбирается IMPORTANT, так как он встречается чаще (Table 14).

    Плюсы:

    • Повышает надежность ответов.

    • Учитывает разные интерпретации задачи.

    Минусы:

    • Дороже из-за множества запросов.

    • Медленнее.

  • Tree of Thoughts (ToT, Дерево мыслей)

    ToT — расширение техники Chain of Thought, где модель исследует несколько параллельных цепочек рассуждений (см. Рисунок 1). Это особенно полезно для сложных задач, требующих перебора вариантов.

    Как работает:

    1. Создается «дерево», где каждая «ветвь» — альтернативный путь решения.

    2. LLM оценивает каждую ветвь и выбирает оптимальную.

    3. Подходит для задач с неочевидными решениями (например, стратегическое планирование).

  • ReAct (Reason & Act, Рассуждай и Действуй)

    ReAct — метод, где LLM рассуждает вслух и взаимодействует с внешними инструментами (поиск, API, базы данных).

  • Automatic Prompt Engineering (APE, Автоматическая генерация промтов)

    APE — использование LLM для создания и оптимизации промтов.

  • Code Prompting (Работа с кодом)

    1. Генерация кода (Table 16)

    Задача: «Напиши Bash-скрипт для переименования файлов, добавляя префикс draft_».

  • Попробуйте использовать глаголы, описывающие действие. Вот набор примеров:

Act, Analyze, Categorize, Classify, Contrast, Compare, Create, Describe, Define,
Evaluate, Extract, Find, Generate, Identify, List, Measure, Organize, Parse, Pick,
Predict, Provide, Rank, Recommend, Return, Retrieve, Rewrite, Select, Show, Sort,
Summarize, Translate, Write.

Действуй, Проанализируй, Раздели на категории, Распредели по классам, Сравни, Противопоставь, Создай, Опиши, Дай определение, Оцени, Извлеки, Найди, Сгенерируй, Выяви, Перечисли, Измерь, Организуй, Разбери, Выбери, Спрогнозируй, Предоставь, Проранжируй, Порекомендуй, Верни, Получи, Перепиши, Отбери, Покажи, Отсортируй, Обобщи, Переведи, Напиши.

  • Будьте конкретны в описании желаемого результата

Простое указание задачи может быть слишком общим и не дать языковой модели четкого направления. Чем конкретнее вы опишете формат, стиль и структуру ответа, тем точнее и полезнее будет результат.

Примеры:

✅ Правильно (четкие инструкции):

«Напиши 3 абзаца информативного и увлекательного поста в блоге о топ-5 игровых консолях.
Текст должен быть в разговорном стиле, с примерами и легкой долей юмора.
В конце добавь краткий вывод с рекомендацией, какую консоль выбрать в 2024 году.»

❌ Неправильно (слишком общее задание):

«Напиши пост о игровых консолях.»

guest
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии