Освічений, але аморальний: ШІ, здатний писати книги, викликає трепет

Технологія штучного інтелекту (ШІ), вироблена фірмою, співзасновником якої є мільярдер Ілон Маск, отримала похвалу за здатність генерувати послідовні історії, романи та навіть комп'ютерний код, але вона залишається незрячою для расизму чи сексизму.

GPT-3, як відома остання мовна модель ШІ в каліфорнійській компанії OpenAI, здатна завершити діалог між двома людьми, продовжити низку запитань та відповідей або закінчити вірш у стилі Шекспіра.

Почніть речення або текст, і він завершить його для вас, грунтуючись на своїй відповіді на гігантській кількості інформації, якою він надійшов.

Це може стати в нагоді для обслуговування споживачів, адвокатів, котрі потребують узагальнення юридичного прецеденту, або для авторів, які потребують натхнення.

Хоча ця технологія не нова і ще не навчилася міркувати як людський розум, остання пропозиція OpenAI завоювала похвалу за те, як її текст нагадує написання людиною.

"Він здатний генерувати цілком природні та правдоподібні речення", — говорить Брюс Делаттр, фахівець зі штучного інтелекту в консалтинговому агентстві даних Artefact.

"Вражає бачити, наскільки модель здатна привласнити літературні стилі, навіть якщо є повторення".

GPT-3 також здатний знаходити точні відповіді на проблеми, такі як назва хвороби за описом симптомів.

Він може вирішувати деякі математичні задачі, висловлюватися кількома мовами або генерувати комп’ютерний код для простих завдань, які розробники повинні виконувати, але з радістю їх уникатимуть.

Делатр говорить AFP, що все це працює завдяки "статистичним закономірностям".

"Модель знає, що певне слово (або вираз) з більшою чи меншою ймовірністю слідує за іншим".

Мільярди веб-сторінок

Амін Бенхені, науковий керівник дослідницької та дослідницької фірми AI Dataswati, каже AFP, що "великою різницею" порівняно з іншими системами є розмір моделі.

GPT-3 отримав вміст мільярдів веб-сторінок, які є у вільному доступі в Інтернеті, та всі види письмових робіт.

Щоб дати уявлення про масштаб проекту, весь вміст Інтернет-енциклопедії Вікіпедія становить лише три відсотки всієї інформації, яку він отримав.

Таким чином, йому не потрібно перекваліфікуватися для виконання завдань, як це робили попередні моделі, коли вводиться новий предмет, такий як медицина, право чи засоби масової інформації.

Наведіть лише декілька прикладів виконання завдання, наприклад, закінчення речення, і тоді він знатиме, як виконати будь-яке речення, яке йому дано, незалежно від того, який предмет — так звана модель «кількох кадрів» .

"Це надзвичайно ефективно, якщо ти знаєш, як добре підготувати модель", — сказав Шрея Шанкар, спеціаліст з інформаційних технологій, у Twitter після використання GPT-3.

"Це змінить парадигму ML (машинного навчання)".

Однак, незважаючи на ажіотаж, GPT-3 займає лише 10-те місце в тесті SuperGLUE, що вимірює мовне розуміння алгоритмів.

І це тому, що деякі користувачі продемонстрували, що на безглузді запитання модель відповідає безглуздими відповідями.

Наприклад, розробник Кевін Лакер запитав: "Скільки очей у сонця?"

"Сонце має одне око", — відповіло воно, — написав Лакер у своєму блозі.

Фейкові огляди, фейкові новини

Клод де Лупі, співзасновник французьких стартапів Syllabs, який спеціалізується на автоматизованому створенні тексту, каже, що в системі бракує "прагматизму".

Ще однією головною проблемою є те, що вона без жодної думки копіює будь-який стереотип чи висловлювання ненависті, що підживлюються протягом періоду навчання, і може швидко стати расистською, антисемітською чи сексистською.

Як такі, експерти, опитані AFP, вважали, що GPT-3 не є достатньо надійним для будь-якого сектору, який потребує покластися на машини, такі як робо-журналістика чи обслуговування клієнтів.

Однак він може бути корисним, як і інші подібні моделі, для написання фейкових оглядів або навіть масового виробництва новин для кампанії з дезінформації.

Занепокоєний "шкідливими додатками технології", OpenAI, який був заснований у 2015 році Маск, який з тих пір залишився, і фінансується, зокрема, Microsoft, вирішив не випускати попередню версію моделі, GPT-2, у Лютий 2019 р.

Спочатку неприбуткова компанія OpenAI стала компанією з "обмеженим прибутком", що означає, що інвестори отримують обмежену віддачу.

А в червні фірма змінила напрямок і відкрила свою модель GPT-3 для комерційного використання, що дозволило отримати відгуки користувачів.

Крок, який Клод де Лупі каже, може принести великий прибуток.

Немає сумнівів у тому, що кількість тексту, що генерується ШІ, вибухне в Інтернеті.

Facebook Comments