Штучний інтелект навчився читати та писати наукові статті

Штучний інтелект навчився читати та писати наукові статті

Група вчених з Массачусетського технологічного інституту (МТІ) розробила штучну нейронну мережу, яка може читати наукові статті та писати прості тексти на кшталт резюме. І навіть з такими обмеженими функціями ШІ може суттєво допомогти редакторам, письменникам і вченим, які працюють з великою кількістю статей. Окрім цього, нова розробка може стати в пригоді під час машинного перекладу і розпізнавання мови.

Штучні нейронні мережі є спробою імітувати природний спосіб засвоєння нової інформації: комп’ютер аналізує безліч різних прикладів і виокремлює основні шаблони. Такі системи широко використовуються для ідентифікації певних об’єктів на фотографіях. Проте, коли потрібно зіставити інформацію, розпорошену у великому об’ємі даних, нейронні мережі дають збій. А саме це необхідно вміти робити для «осмислення» наукової статті.

Раніше покращити здатність нейромереж обробляти природну мову намагалися за допомогою таких методів, як довга короткочасна пам’ять (LSTM) і керований рекурентний блок (GRU). Натомість команда MTІ розробила альтернативний підхід, який базується не на перемноженні матриць (як у більшості звичайних нейромереж), а на векторах, що обертаються в багатовимірному просторі. Цій концепції вони дали назву блок пам’яті, що обертається (Rotational Unit of Memory, RUM).

За допомогою математичних операторів і виразів система інтерпретує слова та формує з них рядки. «RUM допомагає нейронним мережам вправно робити дві речі — краще запам’ятовувати і більш точно пригадувати інформацію», — каже Преслав Наков, провідний науковий співробітник Катарського інституту комп’ютерних досліджень. Аби перевірити ефективність RUM, науковці вирішили скласти резюме до однієї й тієї ж наукової статті за допомогою нейронної мережі на основі LSTM і за допомогою своєї розробки. У результаті RUM показав значно кращий результат, ніж LSTM, написавши значно інформативніший текст мовою, наближеною до реальної.

Американські вчені вже вдосконалили систему на основі RUM, і тепер вона може «читати» великі дослідницькі роботи і робити стислі перекази їх змісту. А тим часом сінгапурська редакція Esquire випустила квітневий номер журналу, який вперше був створений за участю технологій штучного інтелекту. П’ять матеріалів написав «автор» на ім’я AI Squire.