У травні некомерційна організація OpenAI представила нову систему генерації тексту GPT-3. З того часу з’явилося багато статей, які описують досвід використання цієї нейромережі та її можливостей. Деякі розхвалюють алгоритм і зазначають, що ШІ згенерував цілком «живі» діалоги у роботі з письменником. Однак, не все так чудово, як може здатися.

На перший погляд, у GPT-3 вражаючі здібності генерувати текст. Він може впоратися з побудовою придуманого контенту, але точності йому дуже бракує. При роботі можна з’ясувати, що попри грамотність та вірну стилістику речень, контекст часто спотворений. Ернест Девіс, професор інформатики з Університету Нью-Йорка, переконаний – «алгоритму не можна довіряти, бо він не розуміє, що пише».

Професор подав запит на дослідження GPT-3, але доступ отримав не одразу. Ймовірно через його критику щодо GPT-2, попереднього покоління алгоритму. Результати дослідження розчарували професора та його команду. Новому алгоритму притаманні ті ж проблеми, що були у попереднього. У найкращому випадку, штучний інтелект може видати логічну думку. Але, здебільшого, у його текстах відсутня логіка і розуміння.

Девіс навів приклад сгенереного тексту: «На вечірці я налив собі склянку лимонаду, але він виявився занадто кислим, тому я додав трохи цукру. Я не побачив ложки, тому розмішав його сигаретою. Але це виявилося поганою ідеєю, тому що вона впала на підлогу. І тоді він вирішив почати Асоціацію кремації Північної Америки, яка стала найбільшим постачальником послуг зі 145 філіями». Спочатку він розмішав цукор сигаретою, а потім взагалі видав якусь нісенітницю.

Причина невдач в тому, як саме працюють такі системи. Вони не вчаться пізнавати світ – вони вивчають текст і те, як люди використовують слова. GPT-3 бездумно комбінує слова і словосполучення, не намагаючись зрозуміти сенс, який лежить за вступною фразою, отриманої від людини.

Источник: pingvin.pro