Сложности и хитрости при разработки приложений с LLM / мысли почему перенесли Apple Intelligence на год

Краткое описание доклада:
Тезисы: Сложности разработки приложений с LLM, хардкодинг и гарантии исполнения пользовательских запросов

1. Почему сложно разрабатывать приложения с LLM?

2. Почему нельзя хардкодить пайплайны для недетерминированных систем?

3. Как гарантировать исполнение желаний пользователя через LLM?

4. Как это все тестировать и проверять что малейшее изменение промпта не поломает отдельные части систем? Сложности промптинга для мульти модальных LLM систем.

5. Что поняли в Apple уже после обещаний внедрить ИИ в 2025 году.

Ключевой вывод LLM требуют перехода от традиционной «жесткой» логики к гибридным подходам, где генеративные возможности модели сочетаются с алгоритмическим контролем, пост-обработкой и человеко-машинным взаимодействием.