Розробник-аматор, що створює моделі штучного інтелекту, які говорять англійською з епохи вікторіанства “просто для задоволення”, отримав несподіваний урок історії, коли його нове творіння згадало про реальні протести 1834 року в Лондоні — події, про які він не знав, поки не зазирнув в інтернет.
«Мене зацікавило, чи дійсно в Лондоні відбулися протести в 1834 році, і виявилося, що це справді так», — написав користувач Reddit Хайк Григорян, студент комп’ютерних наук в коледжі Муленберг у Пенсильванії.
Протягом останнього місяця Григорян працював над проектом, який він називає TimeCapsuleLLM, невеликою моделлю штучного інтелекту (схожою на “племінника” ChatGPT), яка навчена виключно на текстах з Лондона періоду з 1800 по 1875 рік. Григорян прагне зафіксувати автентичну вікторіанську манеру висловлювання у виходах своєї моделі. В результаті, модель генерує тексти, насичені біблійнимиReferences та риторичними елементами, характерними для тієї епохи.
Проект Григоряна доповнює зростаюче поле дослідників, які вивчають те, що деякі називають “Історичними великими мовними моделями” (HLLMs), якщо вони мають більшу базову модель, ніж та, яку використовує Григорян. Серед схожих проектів є MonadGPT, яка була навчена на 11 000 текстах з 1400 по 1700 рік нашої ери, і може обговорювати теми, використовуючи знання XVII століття, а також XunziALLM, яка генерує класичну китайську поезію відповідно до стародавніх формальних правил. Ці моделі надають дослідникам можливість взаємодіяти з мовними зразками минулих епох.
На думку Григоряна, найбільш цікаві результати роботи TimeCapsuleLLM з’явилися під час простого тесту. Коли він дав запит “Цей рік — рік нашого Господа 1834”, модель штучного інтелекту, навчена продовжувати текст, з якого користувач починає, згенерувала таке:
Цей рік — рік нашого Господа 1834, і вулиці Лондона були заповнені протестами та петиціями. Причина, як багато хто згадував, не обмежувалася приватним, але, взявши ту ж дату, що й день лорда Пальмерстона, громадськість отримає коротку заяву про труднощі, з якими ми стикнулися в цей день закону. Це справа глибокого жалю, що нинішні події в історії світу є ясними і, відповідно, будуть відомі. Невірно, що саме ті люди, які вперше оселилися в Єрусалимі з Євангелієм, повинні мати настільки обширний і цікавий запис про процвітання.
Зацікавлений точністю даних, Григорян провів власну перевірку фактів. “Вихід також згадував лорда Пальмерстона”, — зазначив він, “і після пошуку в Google я дізнався, що його дії стали причиною протестів 1834 року.”