Китайские исследователи разработали новую языковую модель, которая может создавать тексты длиной до 10 000 слов. Это значительно превышает возможности существующих моделей, которые обычно ограничены 2000 словами.
Новая модель, названная LongWriter, была обучена на большом объеме текстовых данных, включая документы длиной до 32 000 слов. Благодаря этому она научилась генерировать более длинные и связные тексты.
Ученые считают, что эта технология может иметь широкое применение в различных областях, от создания контента до написания научных статей. Однако они также отмечают, что необходимо учитывать этические аспекты использования такой модели.
Исследователи опубликовали код своей модели на GitHub, что позволит другим разработчикам использовать и развивать ее. Они также опубликовали видео, демонстрирующее возможности LongWriter в создании туристического гида по Китаю.
arXiv