💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!
Читайте также: Олексій Філюк Біографія Сім’Я: Життя, Кар’єра та Особисті Деталі
В Україні запустили LLM API — платформу для компаній, які використовують ШІ-моделі у продуктах або внутрішніх процесах. За словами розробників, сервіс дає доступ до понад 400 моделей різних провайдерів і дозволяє порівнювати їх між собою.
Про це DOU повідомили творці LLM API.
📌 Що відомо
LLM API позиціонують як інструмент для бізнесу для централізованого керування використанням ШІ-моделей, API-ключами, доступами та витратами.
Платформа дозволяє підключатися до моделей різних провайдерів через єдину точку доступу. Компанії можуть тестувати нові моделі без суттєвих змін у власних інтеграціях.
У команді кажуть, що сервіс орієнтований на стартапи, а також середні і великі компанії з високим ШІ-навантаженням.
Також на платформі є модуль EvalLab, який потрібен для бенчмаркінгу ШІ-моделей на власних сценаріях компанії.
Читайте также: 17% айтівців звільнили за рік: кого скорочували, хто лишається на бенчі і чи справді винен ШІ
Команди можуть запускати однакові промпти через різні моделі й порівнювати відповіді за кількома параметрами: швидкістю, вартістю та quality score. Наприклад, бізнес може протестувати GPT, Claude, Gemini або open-source моделі на власних продакшн-промптах і порівняти результати в одному інтерфейсі.
EvalLab також підтримує підхід LLM-as-judge, коли одна модель оцінює відповіді інших. Наприклад, компанія може призначити одну модель «суддею», а інші — протестувати за шкалою від 0 до 100.
У LLM API кажуть, що платформа не додає окрему націнку поверх ціни ШІ-провайдерів. Також команда заявляє, що в окремих випадках допомагає клієнтам отримувати спеціальні ціни на ШІ-моделі.
Сервіс уже доступний на сайті LLM API.
Нагадаємо, що в Україні запустили Lapathoniia — сервіс для роботи з українськими великими мовними моделями. Вся його інфраструктура фізично розміщена в Україні. Раніше DOU писав, що з’явився відкритий лідерборд для порівняння великих мовних моделей за якістю роботи з українською мовою. Також писали, що ШІ-асистента додали у мобільний застосунок «Дія».
Читайте также: Дочка Майкла Джексона Пэрис Джексон: путь от детства к собственной карьере
Все про українське ІТ в телеграмі — підписуйтеся на канал DOU
