Breathe Easy - Влияние ИИ на исследования в пульмонологии и за её пределами

В этом выпуске подкаста рассматривается эволюция роли искусственного интеллекта (ИИ), в частности больших языковых моделей (LLM), в научных исследованиях и рецензировании. Особое внимание уделяется заявлению, опубликованному журналами Американского торакального общества (ATS), в котором затрагиваются вопросы интеграции ИИ в письменные работы и связанные с этим этические аспекты для авторов и рецензентов в медицинской сфере. Основной акцент будет сделан на ответственном и прозрачном использовании этих технологий.

Понимание LLM и ИИ в медицине

Чат-боты — это универсальные системы ИИ, разработанные с удобным для пользователя интерфейсом, который облегчает взаимодействие посредством естественного языка. В этих системах используется обработка естественного языка (NLP), подраздел ИИ. NLP позволяет машинам понимать, интерпретировать и генерировать человеческий язык, устраняя коммуникационный разрыв между людьми и компьютерами.

Выпуск компанией OpenAI чат-бота GPT значительно продвинул большие языковые модели в мейнстрим. GPT (Generative Pre-trained Transformer — генеративный предварительно обученный трансформер) предназначен для контекстуализации последовательной природы слов, чтобы прогнозировать наиболее логичные и связные ответы. Это позволяет генерировать естественный, человекоподобный язык.

LLM обучаются на огромных наборах текстовых данных, что позволяет им создавать ответы на естественном языке на различные текстовые запросы. Способность этих моделей генерировать замечательные и контекстуально релевантные ответы вызвала восторг в различных областях, особенно в медицине, где быстро было признано множество потенциальных применений. За последние два года использование LLM резко возросло, что ознаменовало значительный сдвиг в том, как технологии интегрируются в медицинскую практику.

Хотя медицина традиционно отставала от других отраслей во внедрении новых технологий, сейчас наблюдается растущее стремление к интеграции передовых инструментов, таких как ИИ. В рамках этого движения ATS выпустило заявление, автором которого является доктор Нитин Сим, касающееся надлежащего и этичного использования LLM в научных исследованиях и написании работ. Цель этого руководства — обеспечить ответственное и прозрачное использование ИИ в медицинском сообществе.

Позиция ATS в отношении ИИ

Журналы ATS, функционирующие как некоммерческое издательство, руководствуются комитетом по публикационной политике, который обеспечивает соблюдение этических норм. Недавние дискуссии в комитете были сосредоточены на роли ИИ в научной деятельности. Это включает в себя необходимость разработки четких политик для управления его интеграцией.

Существующим политикам не хватало ясности в отношении надлежащего использования ИИ. В них также отсутствовали четкие указания относительно конфиденциальности и потенциальных последствий для представленных работ. Следовательно, редакционная статья была инициирована для решения этих развивающихся аспектов и неопределенностей, связанных с применением ИИ в медицинских публикациях.

Одним из основополагающих руководящих принципов для журналов ATS является защита конфиденциальности работ авторов. Авторы оказывают доверие журналам, доверяя им свои рукописи. Поэтому крайне важно охранять эту конфиденциальность до момента публикации.

Авторы несут полную ответственность за содержание своей работы, даже при использовании инструментов ИИ. Прозрачное раскрытие информации об использовании ИИ становится необходимым, обеспечивая подотчетность и ясность в процессе исследования. ATS провело тщательный пересмотр своей политики, приведя ее в соответствие с рекомендациями, выдвинутыми Международным комитетом редакторов медицинских журналов (ICMJE) и Комитетом по этике публикаций (COPE).

Процесс пересмотра включал изучение практики других крупных медицинских журналов с целью улучшения рабочих процессов как для авторов, так и для рецензентов. Эти улучшения включали в себя введение требования для авторов и рецензентов раскрывать любые случаи использования LLM или других инструментов ИИ в процессе подачи материалов. Это направлено на обеспечение большей прозрачности.

Этот протокол раскрытия информации обеспечивает прозрачность для редакторов, рецензентов и, в конечном итоге, читателей, предоставляя ясность в отношении того, как ИИ был использован при написании рукописей. Журналы ATS твердо придерживаются позиции, что LLM не могут быть признаны авторами; ответственность за работу по-прежнему лежит на авторах-людях. Эта позиция укрепляет принцип контроля и подотчетности человека в научных публикациях.

Рецензентам категорически запрещается загружать конфиденциальные, еще не опубликованные рукописи авторов в LLM. Однако им разрешено использовать LLM для уточнения и редактирования собственных комментариев, обеспечивая целостность процесса рецензирования. Были высказаны опасения относительно системы честного раскрытия информации об использовании ИИ, особенно в свете быстрого развития и эволюции этой области.

Решение проблем и рекомендации

Система честного раскрытия информации об использовании ИИ работает аналогично системе, используемой для раскрытия конфликта интересов, полагаясь на честность отдельных лиц в предоставлении точной информации. Обнаружить контент, сгенерированный ИИ, по определению сложно. Прозрачное раскрытие информации и защита конфиденциальной работы авторов остаются важнейшими руководящими принципами для ATS.

Некоторым, особенно тем, кто сосредоточен на максимизации эффективности и производительности, эти политики могут показаться устаревшими или чрезмерно ограничительными. Однако ATS отдает приоритет защите работ авторов и обеспечению прозрачности для читателей. Это гарантирует, что использование ИИ будет как этичным, так и ответственным.

Учитывая быстрые темпы изменений в технологии ИИ, постоянный пересмотр политик имеет решающее значение. Комитет по публикационной политике включает экспертов в области информатики и других соответствующих областях для обеспечения постоянной оценки и адаптации. По мере развития понимания инструментов ИИ, политики будут пересматриваться, чтобы отражать передовые методы и решать возникающие проблемы.

Если автор использует ИИ для сокращения количества слов в своей рукописи, должен ли он раскрывать это использование ИИ? Использование встроенного в Microsoft Word средства проверки орфографии не требует раскрытия информации. Однако о более продвинутых случаях использования ИИ следует сообщать.

Если вы используете ИИ для редактирования и проверки грамматики в ChatGPT или аналогичных инструментах, вам следует сообщить об этом при подаче материалов. Затем редакторы рассмотрят раскрытую информацию и определят, является ли использование ИИ надлежащим, обеспечивая прозрачность. Это позволяет им оценить влияние ИИ на рукопись.

Если инструменты ИИ использовались разумно в рамках рабочего процесса, это не должно негативно повлиять на шансы принятия статьи. Прозрачность является ключевым моментом, и журналы ATS склоняются к поощрению более полного раскрытия информации для обеспечения целостности процесса экспертной оценки. Это признание развивающихся передовых методов в использовании ИИ.

Редакторы тщательно проверяют статьи и решают, что отправлять на экспертную оценку, принимая во внимание предоставленную информацию. Рецензенты могут комментировать использование инструментов ИИ. Незначительное использование ИИ, как правило, не влияет на оценку статьи, но значительное или ненадлежащее использование может вызвать опасения.

Изучение LLM и будущие исследования

Важно изучать LLM. Статьи на эту тему приветствуются журналами ATS, поскольку они могут предоставить ценную информацию о технологии. Авторам следует предоставлять подробные отчеты о том, как они используют LLM, включая конкретные используемые версии, применяемые методы и основные конечные точки своих исследований.

Учитывая быстрые темпы изменений в технологии ИИ, эти статьи являются актуальными и проходят экспертную оценку быстрее. Авторам также рекомендуется отправлять предварительные запросы редакторам, чтобы определить, соответствует ли их статья сфере охвата и интересам журнала. Это обеспечивает более эффективный и релевантный процесс рецензирования.

Существует множество тем, связанных с ИИ и LLM, которые требуют дальнейшего изучения в медицине, включая задачи, которые являются простыми и очевидными. ИИ используется для помощи в составлении электронных писем, создании целей обучения и оптимизации других рутинных задач. Это подчеркивает его универсальность и потенциал для повышения производительности в различных медицинских учреждениях.

Младшие специалисты быстрее осваивают новые технологии, чем старшие сотрудники. Использование LLM для изучения тяжелой гипонатриемии с последствиями для ЦНС стало обычным явлением среди младших специалистов. Эта интеграция ИИ в образование знаменует собой сдвиг в способах приобретения и применения медицинских знаний.

LLM могут помочь в обучении у постели больного, охватывая стандартные темы, что позволяет экспертам сосредоточиться на более сложных концепциях и адаптировать свои инструкции соответствующим образом. Существует много интересных вариантов использования LLM в клинической практике, образовании и исследованиях, которые заслуживают изучения. Эти инструменты обладают потенциалом для улучшения различных аспектов медицинской практики.

Необходимы исследования для оценки точности и предвзятости LLM по сравнению с существующими золотыми стандартами, чтобы обеспечить их надежность и достоверность в медицинских приложениях. Сложные навыки, такие как искусственная вентиляция легких, ультразвук и рентгенология, могут выиграть от обучения с поддержкой ИИ. ИИ может обеспечить персонализированный и адаптивный опыт обучения.

ИИ может поддерживать самостоятельное и персонализированное обучение в сложных и технических областях, улучшая процесс обучения. Хотя интерны и ординаторы могут казаться умнее благодаря LLM, преподавателям необходимо предоставлять ценность, выходящую за рамки возможностей этих инструментов. Преподаватели должны содействовать развитию критического мышления и решению проблем.

LLM использовались в клинической практике для помощи в дифференциальной диагностике и уходе за пациентами, но эффективность этих приложений все еще оценивается. В исследованиях эксперты-клиницисты часто сравниваются с ChatGPT для оценки их возможностей. Цель состоит в том, чтобы определить, как ИИ может расширить, а не заменить человеческий опыт.

Экспоненциальный рост ИИ по сравнению с предыдущими технологиями является замечательным. Основное внимание должно быть сосредоточено на определении надлежащего и безопасного использования ИИ для улучшения ухода за пациентами, гарантируя, что технология служит наилучшим интересам здравоохранения. Этические и практические соображения должны определять его внедрение.

Цель состоит в том, чтобы сотрудничать с авторами, учитывать отзывы и облегчать жизнь. Крупные медицинские журналы должны сотрудничать для решения общих проблем и задач, развивая подход к интеграции ИИ, основанный на участии сообщества. Эти совместные усилия могут способствовать ответственному и эффективному использованию ИИ в медицине.

ATS хочет защитить контент авторов и обеспечить прозрачное раскрытие информации для читателей. Рекомендации могут быстро устареть по мере развития ИИ, что подчеркивает необходимость постоянной адаптации и совершенствования. Быть в курсе последних разработок имеет решающее значение для поддержания актуальности и эффективности.

В заключение, интеграция ИИ в медицинские исследования и практику требует тщательного рассмотрения и постоянной оценки. Прозрачное раскрытие информации, постоянный пересмотр и совместные усилия необходимы для использования потенциальных преимуществ ИИ, обеспечивая при этом целостность научных исследований и ухода за пациентами. Мы должны двигаться вперед с этическим подходом.