Горький урок: почему ChatGPT Победа над ручными вычислительными методами

0 5

Отредактировано и проверено фактами

Коротко

Эссе профессора Рича Саттона 2019 года «Горький урок» предсказывает значительные достижения в области ИИ, такие как ChatGPT/ГПТ-4 и OpenAIметодологии.

В тексте подчеркивается смена парадигмы в ИИ, когда вычислительные методы доминируют над производительностью без участия человеческой интуиции.

Однако многие исследователи продолжают применять подходы, основанные на интуиции, упуская из виду потенциал методов, основанных на расчетах.

Чтобы улучшить ваше взаимодействие с местным языком, иногда мы используем плагин автоматического перевода. Обратите внимание, что автоперевод может быть неточным, поэтому читайте оригинал статья для точной информации.

Эссе «Горький урок», написанная профессором Ричем Саттоном в 2019 году, с тех пор приобрела важность для экспертов по машинному обучению и людей, заинтересованных в понимании будущего ИИ. Информация, представленная в этом документе, предвидела важные события в области ИИ, в том числе появление ChatGPT/GPT-4 и принятие OpenAIметодологии.

Горький урок: почему ChatGPT Победа над ручными вычислительными методами

Отредактировано и проверено фактами

Сейчас читают:

Ядро «Горького урока» исследует смену парадигмы в области ИИ. В прошлом ученые, изучающие ИИ, были склонны думать, что разработка передового ИИ требует замечательного, своеобразного подхода, также известного как «индуктивный уклон». Эта идея намекает на добавление специализированной информации или интуитивное понимание конкретной проблемы, которая затем направляет путь решения машины.

Центральная тема «Горького урока» посвящена изменению парадигмы в изучении искусственного интеллекта. Ранее исследователи, изучающие ИИ, были склонны полагать, что для создания продвинутого ИИ требуется выдающийся, уникальный подход. Это смещение называется «индуктивным смещением». Эта концепция предполагает добавление специальных знаний или интуитивного понимания конкретной проблемы, которые затем определяют путь решения машины.

Но повторяющаяся закономерность стала очевидной. Исследователи неоднократно обнаруживали, что, просто добавляя больше данные и вычислительная мощность, они могут превзойти результаты, полученные с помощью этих кропотливо разработанных методов. Этот паттерн не был специфичен для одной области, но появился в шахматах, го, старкрафте и, вероятно, также в нетхаке. Сверточные нейронные сети, например, работают лучше в области компьютерного зрения, чем ручные методы, такие как ПРОСЕЯТЬ. Интересно отметить, что позже изобретатель SIFT сказал, что если бы нейронные сети существовали, когда он проводил свои исследования, он бы выбрал именно этот курс действий. Подобно этому, LSTM превзошли все системы, основанные на правилах в области машинного перевода. Используя простую стратегию «добавьте больше слоев», ChatGPT/GPT-4, яркий пример этой тенденции, смог превзойти высокоразвитые модели, созданные компьютерными лингвистами.

Суть «горького урока» Саттона состоит в том, что вычислительные методы, не модифицированные человеческой интуицией, часто превосходят другие подходы с точки зрения производительности. Однако это понимание не получило широкого распространения. Многие исследователи по-прежнему используют сложные стратегии, основанные на интуиции, часто игнорируя потенциал инклюзивных подходов, основанных на расчетах.

Пять причин, по которым GPT одержал победу над ручными вычислительными методами:

  1. Масштабируемость: Вычислительные методы, особенно когда они дополнены большим количеством данных, могут развиваться и адаптироваться по мере развития технологий, что делает их более перспективными.
  2. Оперативность: общие методы, основанные на расчетах и ​​данных, неизменно превосходят специализированные, основанные на человеческой интуиции методы в различных областях, от таких игр, как шахматы и го, до машинного перевода и компьютерного зрения.
  3. Широкая применимость: эти общие методы, основанные на вычислениях, универсальны и могут применяться в различных дисциплинах без необходимости внесения изменений в предметную область.
  4. Простота: Системы, построенные на чистой вычислительной мощности и данных, как правило, проще в своем подходе, без необходимости сложных настроек, основанных на человеческой интуиции.
  5. Стабильная производительность: как показано на таких примерах, как ChatGPT/GPT-4 модели, основанные на расчетах, могут достигать стабильно высокой производительности, часто превосходя специализированные методы.

Оригинальное эссе — бесценный инструмент для лучшего понимания точки зрения профессора Саттона и принципов, определяющих эту траекторию развития ИИ.

На создание статьи меня вдохновил Telegram-канал «Борис снова.

Подробнее об ИИ:

Источник

Оставьте ответ