Коротко
OpenAI объявила, что ChatGPT теперь доступен через API, что позволяет разработчикам быстро и легко интегрировать его в свои приложения.
Цена в 10 раз ниже самой мощной модели ГПТ-3.5, а модель условно можно свести к модели 6.7В.
Данные, отправленные через API, больше не используются для обновления службы (включая обучение модели).
OpenAI только что объявил, что ChatGPT и Whisper доступны через API компании., то есть каждый разработчик может добавить их в свое приложение буквально за один вечер. С декабря OpenAI добилась снижения затрат на 90% за счет различных оптимизаций, объясняет компания в своем блоге. Цена ГПТ-3.5-турбо сейчас в десятки раз ниже цены ГПТ-3.5, скорее всего потому, что модель уменьшили в размерах — то есть это может быть условно не 175В, а модель 6.7В.
Честно говоря, я лично очень рад этой новости. Было мучительно видеть, как много программ и ботов утверждали, что имеют ChatGPT внутри, даже если они использовали модель Davinci003.
Они также анонсировали несколько интеграций, например, Quizlet, сервис, который способствует изучению новых тем. Теперь личный учитель ИИ будет доступен, чтобы давать вам подсказки и помогать вам учиться.
Instacart позволяет покупателям задавать вопросы о еде («Как приготовить рыбные тако?» или «Предложить здоровый обед для моих детей») и получать вдохновляющие ответы со ссылками на продукты, которые можно купить в один клик. На данный момент, из того, что я видел, это первая такая интеграция, которая предлагает своего рода «продакт-плейсмент». Мы видим использование этого в поисковых чат-ботах, когда ссылки, за которые вы заплатили, смешиваются с результатами.
Теперь, чтобы запросить модель, вы должны предоставить дополнительную информацию в дополнение к тексту, чтобы продолжить; их список изложен на языке разметки чата («ChatML»). Когда модель диалога была доработана, были специально приняты «роли»: есть помощник ИИ, который пишет ответы, и есть «человек», который пишет сообщения с вашей точки зрения.
И последнее, но не менее важное: если организация не согласится, данные, отправленные через API, больше не будут использоваться для обновления услуг (включая обучение моделей). Информация о клиентах не будет использоваться для обучения в будущем!
Модели GPT будут периодически обновляться и переобучаться на свежих образцах. С одной стороны, он будет актуальным и, по идее, с каждой модификацией должен функционировать чуть эффективнее. С другой стороны, если качество вдруг упадет, вы уже прострелили себе ногу, потому что ваши магические подсказки теперь бесполезны, а это означает, что компании могут закрыться. Это означает, что предприятия должны осознавать потенциальные риски, связанные с использованием автоматизированных процессов, и должны иметь планы на случай непредвиденных обстоятельств на случай, если что-то пойдет не так. Например, с 1 марта доступна модель gpt-3.5-turbo-0301. Заявлено, что он будет поддерживаться только в течение трех месяцев, или до 1 июня 2023 года.
API теперь открыт для публики; мы проверили это снова, и это действительно работает. Теперь вы можете создать свой собственный ChatGPT за один вечер, не платя за PRO — только за API.
Цены, подробности и ответы на вопросы здесь.
Подробнее о ChatGPT: