Сигнали за измислени и непроверими цитати в научни трудове разклащат доверието в рецензионния процес на престижни конференции по изкуствен интелект. Изследване на стартапа GPTZero показва, че организаторите са изправени пред почти невъзможен за решаване казус в ерата на масово генерирано от ИИ, нискокачествено съдържание.
Какво показва изследването
Според GPTZero в научни ръкописи, насочени към водещи форуми по изкуствен интелект, се откриват измислени библиографски препратки („фалшиви“ цитати), които водят до несъществуващи източници или такива, които не подкрепят твърденията в текста. Този тип несъответствия затрудняват проверката на фактите и подкопават научната проследимост.
Проблемът се усилва от начина, по който генеративните модели създават „уверени“ препратки, а автоматизираните инструменти за форматиране на библиографии понякога дописват несъществуващи DOI идентификатори и издания. Така читателите и рецензентите остават с илюзия за авторитетност, която не почива на реални източници.
Защо това е проблем за конференциите
Рецензиращите комисии работят под натиск от кратки срокове и голям обем постъпили материали. Досегашните проверки са проектирани за конвенционално научно писане, а не за текущия потоп от текстове, генерирани от ИИ. В резултат част от измислените или непроследими цитати преминават първичния филтър, което поставя под съмнение качеството на дискусиите и научните изводи.
Ефектът върху научната общност и индустрията
Когато цитатите не могат да бъдат проследени, изследванията стават трудно възпроизводими, а практици и компании рискуват да стъпят върху непроверени твърдения. Това е особено чувствително в изкуствения интелект, където нови методи и модели бързо преминават от публикации към продукти и обществени услуги.
Контекст за България
Тенденцията е релевантна и за българските университети, лаборатории и конференции. Засилени проверки на източници, по-строги изисквания към библиографиите и обучения по научна етика могат да ограничат риска от фалшиви цитати. За екипите в Пловдив и страната това означава и по-голяма прозрачност при оповестяване на използвани ИИ инструменти в процеса на писане.
Възможни решения
Експерти в областта препоръчват комбинация от организационни и технологични мерки, за да се възстанови доверието в научния процес:
Първо: систематична проверка на библиографиите и валидация на ключови цитати от рецензенти и редактори, включително изискване за публично достъпни източници, когато е възможно.
Второ: задължително оповестяване на използвани ИИ инструменти при подготовката на текста и библиографията, както и ясно дефинирани правила за допустима помощ от ИИ.
Трето: технически проверки за консистентност – съвпадение между цитираното твърдение и съдържанието на източника, коректни DOI/ISBN и наличие на реални публикации.
Четвърто: поетапни и случайни одити на приетите материали, с акцент върху ключови твърдения и цитати, които поддържат основните изводи.
Пето: поощряване на възпроизводимостта – споделяне на код, данни и протоколи, когато е приложимо, за да се улесни проверката от трети страни.
Какво следва
Предизвикателството с измислените цитати не е еднократно явление, а симптом на по-широка трансформация в научното писане под влияние на генеративните технологии. Комбинация от правила, човешка експертиза и целеви инструменти ще бъде необходима, за да не се превърнат конференциите в арбитър на несъществуващи или слабо проверими твърдения.
Обобщение
- Изследване на GPTZero сигнализира за фалшиви и непроверими цитати в научни трудове към престижни конференции по ИИ.
- Масовото използване на генеративни модели и натискът върху рецензентите правят проблема трудно решим.
- Необходими са по-строги проверки на източниците, оповестяване на ролята на ИИ и прозрачност на данни и код.
- Българските екипи и университети трябва да засилят контрола и обучението по научна етика и добри практики.
