AI-инфраструктура без иллюзий или почему генеративный ИИ — это новый радий в стакане воды

03-09-2025 06:34 (МСК)

6ITИнсайты

AI-инфраструктура без иллюзий или почему генеративный ИИ — это новый радий в стакане воды Сегодня — не про сложность, убивающую микросервисы, и не про схожесть отделов банка со средневековой Чехией, а про то, как ИИ приходит в бизнес. И почему почти все начинают с научной фантастики в реальной жизни, а заканчивают… инфраструктурой. Видео: «AI-инфраструктура без иллюзий» — Игорь Зарубинский и Михаил Тутаев на True Tech Day 2025. 👉 В этом докладе — один из самых честных разговоров об ИИ, который я слышал за последнее время. Без рекламного шоу. Без слайдов с «10x ростом эффективности». Только реальные вызовы, провалы и архитектура, которую приходится строить самим. 🔍 О чём говорят? ▪️Почему 50% ИИ-пилотов (а по их личному мнению и все 80%) не доходят до продакшна? ▪️Что такое Lake House — и почему это новая основа для данных в эпоху LLM? ▪️Как устроена цепочка данные → модели → API — и где чаще всего всё ломается? 💡 Что особенно цепляет: 🔹 Говорят не маркетологи, а практики, которые внедряют ИИ в реальные системы. 🔹 Есть реальные кейсы провалов — и, что важнее, выводы из них. Например, Klarna неудачно заменила команду поддержки на ИИ — результат оказался хуже. Но компания не отказалась от ИИ, а перешла к модели co-pilots: нейросеть теперь помогает человеку-оператору корректно ответить. 🔹 Обсуждают российскую инфраструктуру, GPU, MVS и будущее data-платформ. 🔹 Поднимают тему: когда ИИ — это решение, а когда — просто новый источник технического долга. 🔹 Понравилась мысль что генеративный ИИ — это новый рэп радий. "Напомним: в начале XX века радий считался чудо-элементом. Из него делали косметику, игрушки, лекарства, часы… Люди не понимали рисков — и использовали везде. В итоге — ушёл из быта, но остался в медицине, где его применение оказалось по-настоящему ценным. " 🔹 Сейчас с ИИ — похожая история. Его используют везде, не понимая до конца, чем это может обернуться. Но эксперименты, честность о неудачах и готовность учиться — вот как мы найдём настоящее, эффективное применение. 🧠 Главный вывод: ИИ — это не волшебная таблетка. Это система. Это не «подключил Llama — и заработало». Это: ● Сбор и очистка данных, ● Векторизация, ● Безопасность, ● Мониторинг, ● Готовность учиться на ошибках. Тот, кто думает, что можно просто вставить ИИ и ждать шикарные результаты — получит убытки. Тот, кто строит архитектуру — получит преимущество. 🔧 И вот как может выглядеть такая архитектура — по шагам: ✅ Сбор, хранение и управление данными Без данных — нет модели. Lake House здесь не роскошь, а необходимость. ✅ Очистка и подготовка Мусор на входе = мусор на выходе. 80% работы — до обучения. ✅ Обучение и fine-tune моделей Off-the-shelf LLM (предобученная модель) — это база, но под задачу бизнеса модель нужно дообучить. ✅ Векторизация и RAG Превращаем знания компании в векторы, чтобы ИИ отвечал по нашим данным. ✅ Инференс и масштабируемость Как модель будет работать под нагрузкой? GPU, latency, cost — всё важно. ✅ MLOps и CI/CD Обновления моделей без простоев, тестирование, rollback. Как у нормальных инженеров😁. ✅ Интеграция с API Модель в изоляции — никому не нужна. Она должна жить в продукте. ✅ Безопасность и контроль Данные, доступ, аудит, промпты. Особенно — если это B2B или госсектор. ✅ ИИ-агенты и автоматизация От чат-бота к агенту, который сам принимает решения, планирует действия, взаимодействует с системами. Это не путь из 9 шагов — это непрерывный цикл. И пропуск любого этапа — прямая дорога к провалу пилота. 👉 https://vkvideo.ru/video-38818370_456239292 💬 А как вы относитесь к стремительному, почти реактивному росту LLM в нашей жизни? Они уже пишут стихи и письма, генерируют код и песни, безупречно рисуют… Ожидали ли Вы что мы так быстро окажемся в раннем киберпанке? Делитесь в комментариях — интересно собрать разные точки зрения. 🔔 Это выпуск #6 рубрики «IT & Инсайты» — разборы, которые помогают понимать современные технологии и как они создаются — глубже. #ITИнсайты

Перейти к источнику