Ограничения и риски LLM при подготовке курсовой работы, дипломного проекта

Выполнение курсовой работы или дипломного проекта – миссия сугубо индивидуальная. Но студенты-старшекурсники в силу высокой загруженности или на фоне сложностей в изучении тех или иных предметов стараются максимально упростить учебный процесс. Универсанты все чаще прибегают к использованию современных инструментов – нейросетей, языковых баз данных (LLM), искусственного интеллекта. Вузовцы поручают автоматизированным сервисам самые разные задачи начиная от банального поиска информации по теме и заканчивая написанием текста, проверкой рукописей, поиска идей по решению исследовательского вопроса и пр.

Лишь немногие студенты понимают, что слепо делегировать часть своих учебных обязанностей LLM, так как есть определенные ограничения и риски их применения.

Недостатки использования LLM при подготовке курсовой работы, дипломного проекта

Выполнение курсовых и дипломных работ при помощи больших языковых баз обладает как преимуществами, так и недостатками. Притом обе стороны медали пользователям необходимо учесть при подготовке своих проектов.

В числе явных преимуществ использования языковых баз при выполнении научных исследований и написании курсовых, дипломных работ можно отметить высокую скорость подбора и обработки материалов по заданной теме. Искусственный интеллект потратит несколько минут на сбор необходимой информации и ее переработку, в то время как человеку потребуется не один день или не одна неделя, чтобы собрать, изучить и отобрать информационную базу для своего исследования, а затем еще столь ко же времени (как минимум!) На их качественную переработку. Используя LLM, универсанты попросту снимают с себя обязанность по работе с источниками информации и ускоряют ход выполнения проекта в разы.

Помимо этого, в числе достоинств LLM в проектной деятельности вузовец можно отметить более легкое написание уникального текста. Как правило, искусственный интеллект оперирует располагаемыми фактами и данными, создавая новый текст с определенным смыслом, значением. Но не всегда нейросети и иные языковые базы гарантируют формирование качественного и оригинального контента.

Но самым ярким и привлекательным для пользователей преимуществом использования LLM в проектной деятельности студентов – экономия времени и сил. Фактически, универсант «поручает» выполнение задания искусственному интеллекту, прилагая к нему минимум усилий и получая при этом полноценный документ.

Но не стоит обольщаться. Привлечение языковых баз в ход написания курсовых и дипломных работ обладает рядом существенных недостатков. Во-первых, по своей сути – это «медвежья услуга». «Кто-то или что-то» проводит исследование и пишет проект вместо универсанта, а сам студент в это время «прохлаждается» и фактически утрачивает базовые навыки по сбору и обработке информации, написанию качественного авторского текста, общему развитию в направлении и пр.

Во-вторых, несмотря на отсутствие в отечественных вузах запрета на использование нейросетей и иных платформ на основе ИИ для студентов, все же сдача курсовых и дипломных проектов, написанных с помощью LLM, считается нечестным жестом и при грамотно выстроенной внутренней политике университета может быть сочтено за нарушение норм авторской этики. Более того, ИИ не всегда корректно и правильно оформляет цитаты и делает отсылки на первоисточник, а это, в свою очередь нарушает нормы плагиата и авторские права.

Еще одним недостатком языковых баз данных в проектно-исследовательской деятельности является то, что они дословно и буквально, формально воспринимают все требования. Несмотря на автоматизированный подход, не все параметры бывают соблюдены языковой моделью, вследствие чего может пострадать качество предоставленной информации, контекст и пр. Притом даже такая «обученная система» способна допускать самые разные ошибки при проведении исследования и написании текста.

На фоне выделенных преимуществ и недостатков можно понять, что использование LLM в исследовательской и проектной деятельности студентов – дело сугубо индивидуальное и добровольное. Важно учитывать не только плюсы, но и минусы от современных благ.

Самые распространенные ошибки в работе LLM при подготовке курсовой работы, дипломного проекта

LLM – автоматизированная система по генерации текста и обработке больших объемов информации. Несмотря на ее возможности быстро и довольно качественно перерабатывать первоисточники, все же в ее работе порой наблюдаются различные ошибки. Притом они могут сказываться на качестве проводимого исследования, точности и достоверности получаемых результатов, степени соответствия курсовой или дипломной работы формальным требованиям и правилам и пр. Давайте разбираться в наиболее распространенных и существенных ошибках, допускаемых большими языковыми моделями при их использовании в проектной деятельности.

Галлюцинации моделей ИИ

Нейросети и программы на основе искусственного интеллекта – роботы с «умной системой». Несмотря на автоматизацию процессов, они все же порой допускают сбои в работе, которые приводят к следующим последствиям:

• Пользователь получает некорректный ответ на поставленный им вопрос/запрос. Данная ситуация встречается довольно часто (каждый пятый пользователь сталкивается с таким недочетом). Виной этому феномену является неточный промт, смежность темы исследования с несколькими науками и пр.
• LLM может выдавать искаженную или недостоверную, некачественную информацию. Так как система основана на качественном рерайтинге или реферировании данных из имеющегося хранилища, то она может некорректно «переписать» те или ирные моменты, преподнести их не в том смысле и пр.
• Некорректный промт (с ошибкой) при генерации текста на основе нейросетей или платформ на основе ИИ может привести к неточному или некорректному результату, который не соответствует истинным потребностям исследователя. Притом если пользователь решит использовать такой материал в проекте, то он может сместить акцент или ракурс исследования или спровоцировать уход от текущей темы, плана и пр.

Фактически, галлюцинации моделей LLM связаны с особенностями темы исследованиями и точностью, корректностью запроса пользователя. Но порой даже при грамотном и однозначном толковании поставленного вопроса, система может выдать неточный или недостоверный результат.

Генерация неправдоподобных данных или фейковых источников

Языковые модели генерируют новые тексты на основе располагаемых первоисточников. То есть фактически они занимаются переработкой материалов, которые хранятся у них в базе. Согласно поставленному промту, они анализируют предметную область и тему, изучают совпадения по тексту и затем преобразуют подобранный материал в полноценный документ.

Генерация нового текста в данном случае основана на реферировании материалов с учетом требований пользователя. Искусственный интеллект может «переписать» рукопись на новый лад, не учтя при этом контекстуального значения фрагмента в составе исследования или не сохранив при этом изначальную суть, результаты из первоисточника-оригинала. Языковая модель лишь «перефразирует» текст, не оценивая его финальное качество, содержательность.

Несмотря на то, что генерируемые рукописи чаще всего оказываются уникальными, они не всегда логически и информативно совпадают с оригиналом. Создание нового текста чаще всего основано на синонимизации оригинала. Притом ИИ не всегда способен точно оценить значение и возможности употребления синонима. Поэтому могут появляться искаженные и неправдоподобные тексты.

Более того, при написании новых материалов LLM использует доступные на момент запроса сведения, которые находятся у нее в базе данных. С одной стороны, получается доступ к материалам ограничен. С другой, обработка текущей информационной базы по заданной тематике и проблематике не всегда учитывает требования по актуальности сведений, что может приводить к ому, что новоиспеченный текст будет основан уже на неактуальных материалах.

Этические вопросы: плагиат, авторство

Самым спорным моментом в применении LLM при написании курсовых и дипломных работ является вопрос об авторской этике и плагиате. В иностранных вузах к подобного рода возможностям относятся настороженно и требовательно: если вуз узнает о том, что универсант писал проект с помощью нейросетей и иных сервисов на основе ИИ, то такой материал будет дисквалифицирован. Более того, вуз имеет право подать в суд на учащегося по статье мошенничество, ведь фактически проект выполнял не он сам, а выдавал сгенерированный текст за свой.

В отечественной практике отношение к языковым моделям при выполнении студенческих работ относятся довольно лояльно. Прямых запретов на использование нейросетей и ИИ при написании курсовых и дипломных проектов нет, обязательной проверки рукописей на генерацию ИИ – также нет. Казалось бы, можно свободно пользоваться соответствующими благами цивилизации.

Но одновременно с этим, есть масса спорных вопросов относительно авторских прав на текст и соблюдений правил плагиата:

• Подготовленный LLM материал фактически написан не универсантом и не является его рукописью. Поэтому утверждать о том, что текст выполнен самостоятельно – вопрос весьма неоднозначный;
• В тексте от ИИ не всегда присутствуют отсылки на первоисточник, не все цитаты могут быть правильно оформлены и преподнесены в корректном контексте. На этом фоне может страдать уникальность рукописи и возникать проблемы с плагиатом: авторы оригиналов могут подать в суд за нарушение их прав на интеллектуальную собственность, присвоение их трудов и пр.;
• Описанные в рукописи моменты могут быть искажены, что способно вызвать различные споры в научной среде, протест автора-оригинала, искажение информационной базы и результатов исследования и пр.

Фактически, на практике возникает неоднозначная ситуация: пользоваться нейросетями и ИИ при выполнении студенческих работ можно, но нормы авторского права и этики ограничивают применение таких инструментов. Более того, материал, сгенерированный ИИ не является авторским, а скорее отреферированным, поэтому важно отражать сведения о первоисточнике на каждый задействованный труд.

Невозможность глубокой критической интерпретации данных

Несмотря на то, что LLM предполагает подбор и анализ материалов на заданную тематику или запрос, все же она не способна предоставить качественный критический анализ информации и интерпретировать их грамотно, корректно.

Во-первых, языковые модели фактически занимают «переработкой» собранной информации или попросту говорят «переписыванием» ее под требуемый лад, акцент, параметры, контекст. Притом система не проводить мониторинг качества первоисточников. То есть в ход идут все подобранные материалы без исключений и пр.

Во-вторых, нейросети или сервисы на основе ИИ лишь пересказывают сторонние идеи, мнения результаты и выводы и не способны выразить авторскую позицию студента по заявленной теме, идее и результатам. То есть фактически, непосредственная оценка результатов в проекте будет отсутствовать.

В-третьих, LLM описывает частные мнения, подходы, теории и научные факты или обобщает их в единую целостную картину. Но четкого и конкретного результата, который был получен именно автором студенческой работы лично, в таком документе не будет. То есть он формируется в нейтральном стиле и ракурсе, без акцента на определенные детали, идеи и пр. Фактически, материал получается обезличенным и неточным, без новых результатов и выводов (сугубо на известной ранее информации).

Возникли сложности?

Нужна помощь преподавателя?

Мы всегда рады Вам помочь!

научные статьи
ВКР
курсовые работы

Сложности в генерации достоверных ссылок (особенно DOI)

В целях быстрой и точной идентификации первоисточника, существуют не только требования по библиографической записи, но и регистрацию определенных кодов, которые привязывают автора к трудам и пр. Одним из таких универсальных идентификаторов является индекс DOI. Он представляет собой цифровой код, который привязан к конкретному изданию, тексту и его местоположению или автору. То есть с его помощью можно с легкостью установить кто написал рукопись где она была опубликована.

Данный идентификатор востребован в научных базах данных. Фактически, он позволяет создать целые архивы по журналам или авторам, изданиям, быстро найти необходимый документ и пр. То есть это некая привязка источника информации к определенным объектам.

Присвоением DOI занимаются специализированные организации. Это могут быть как журналы, издательства, так и научные базы данных, специализированные регистрационные агентства и пр.

LLM способны генерировать DOI, но не всегда предложенные варианты оказываются достоверными и надежными. Во-первых, языковая модель может неправильно воспринимать данный идентификатор или счесть просто за какой-либо цифровой код по тексту исследования. Во-вторых, при генерации такого показателя с помощью LLM могут возникнуть проблемы: использование посторонних или недопустимых символов, дублирование уже существующего номера (но закрепленного за другим автором) и пр. ИИ не будет проверять текущие привязки.

Более того, языковые модели могут изначально обладать недостоверной информации о первоисточнике, что вызовет некорректное отображение ссылки на него.

Таким образом, выполнение курсовых и дипломных работ с помощью LLM соприкасается с разными ошибками и ограничениями, которые непосредственным образом сказываются на точности и достоверности результатов исследования, корректности отражения сведений о первоисточниках, ссылках и сносках, библиографических записях, общем контексте исследования и выражении авторской позиции. Любая из отмеченных огрех способна подвергнуть студента фиаско на защите или вовсе привести к недопуску и отчислению.

Рекомендации по использованию LLM и профилактике ошибок при подготовке курсовой работы, дипломного проекта

Пользоваться большими языковыми моделями при написании курсовых и дипломных работ можно и нужно, но важно делать это обдуманно и грамотно.

Студентам не стоит слепо поверять подготовку проекта нейросетям и ИИ. Важно координировать и контролировать ход генерации текста: внимательно изучать выданный материал, проверять его на достоверность и качество, корректность и пр. Поэтому обязательно проводите вычитку сгенерированного текста. Она поможет установить соответствие теме и требованиям, собственным ожиданиям, оперативно исключить ошибки. Недаром народная мудрость гласит: «Доверяй, но проверяй».

Постарайтесь формулировать четкий и однозначный, понятый промт (запрос) для LLM, чтобы она сгенерировала вам предельно точный и правильный ответ. По возможности используйте различные фильтры: опишите структуру текста, укажите основные тезисы, выделите ключевые слова, отметьте авторов первоисточников и пр. Только при детализации и точном выражении потребностей можно получить ожидаемый результат.

Обязательно проверьте сгенерированный текст на плагиат и удостоверьтесь, что в нем присутствуют и корректно оформлены все ссылки на первоисточники, цитаты – соответствуют действительности и употреблены в правильном контексте, нужном месте и пр. Перепроверьте список литературы, убедитесь, что ссылки и отмеченные ресурсы совпадают (пересекаются).

Дорабатывайте сгенерированные курсовые и дипломные работы. LLM не в силах подчеркнуть авторскую идею, провести критический или общий анализ полученных результатов, выделить конкретные итоги и выводы, обосновать их, сделать плавные переходы между разделами и пр. Поэтому студентам следует внести соответствующие правки, дополнения, проверить оформление проекта.