Разработанная в Лозанне система документирует данные, код и результаты оценок, чтобы сделать использование языковых моделей в здравоохранении более доступным для проверки.

Здравоохранение — одна из областей, где внедрение...искусственный интеллект и большие данные Разработка ведется с большей осторожностью не из-за отсутствия интереса, а потому что ошибки имеют прямые последствия для людей. Крупные языковые модели уже используются или тестируются для поддержки работы врачей: они могут помочь в постановке диагноза, обобщении клинической документации, определении приоритетов или принятии решений в отделении неотложной помощи. Однако критически важным остается проверяемость. Если система выдает рекомендацию, не предоставляя доступ к своим данным, методам и критериям обучения, независимый контроль становится ненадежным.

Именно в этом вопросе он и вмешивается. МедитронФОобъявленоВысшая политехническая школа ЛозанныПо данным университета Во, это первая полностью открытая платформа для создания чего-либо. врачи, использующие большие языковые моделиОсновной упор делается не только на доступность конечной модели, но и на всю цепочку разработки: данные, код, процедуры обучения, документация и оценки. В регулируемой, ответственной и профессионально ответственной отрасли эта разница имеет существенное значение.

Проект зародился в Лаборатория интеллектуальных глобальных технологий в области здравоохранения и гуманитарного реагирования, noto come СветлыйВ рамках Школы компьютерных и коммуникационных наук EPFL. Техническая основа — открытая модель, уже используемая Meditron, выпущенная в 2023 году, но представленная сейчас эволюция направлена ​​на повышение прозрачности всего метода построения. Заявленная цель — обеспечить «медикализацию» базовых открытых моделей, то есть их адаптацию к сфере здравоохранения посредством клинических знаний, документированных наборов данных и специальных процедур валидации.

Почему премьера имеет большее значение, чем просто выпуск модели?

В терминологии ИИ слово «открытый» часто используется непоследовательно. Модель может предоставлять веса, но при этом сохранять непрозрачными наборы данных, этапы фильтрации, параметры обучения или протоколы оценки. В клинической практике такая частичная открытость создает проблему аудита: больницы, исследователи, органы власти и медицинское сообщество могут видеть результаты, но не всегда могут восстановить, как они были получены.

МедитронФО попытки преодолеть этот разрыв. Данная структура была применена к полностью открытым базовым моделям, включая ОЛМо, EuroLLM e ОткрытьЭто швейцарская модель, разработанная EPFL и ETH Zurich в рамках Швейцарской инициативы в области искусственного интеллекта. Этот шаг важен, поскольку он смещает акцент с изолированной производительности на отслеживаемость разработкиВ медицине знание пути, по которому система реагирует, может быть столь же важным, как и измерение точности самой реакции.

Ксавье Теймер-ЛинхардАспирант, возглавляющий компанию Meditron в LiGHT, обобщает этот принцип, проводя прямое сравнение между клиническим обучением и обучением на моделях.

«Мы никогда не доверимся врачу, чья квалификация не может быть подтверждена: тот же стандарт должен применяться и к искусственному интеллекту в здравоохранении».

Данное утверждение проясняет аспект, часто упускаемый из виду в дискуссии о генеративных системах: надежность не совпадает с наличием эффективного интерфейса. Вместо этого она требует документации, воспроизводимости и возможности управления. Этот вопрос также касается безопасность и конфиденциальностьПотому что модели здравоохранения обрабатывают знания и данные, которые могут граничить с конфиденциальной информацией, даже если они напрямую не содержат идентифицируемых медицинских записей.

Открытый компонент сам по себе не исключает риска предвзятости, ошибок или неправильного использования. Однако он снижает один из главных барьеров для независимого анализа. Другими словами, он не гарантирует автоматически клиническую безопасность, но делает работу по проверке, сравнению и совершенствованию более конкретной.

В разработке участвовали врачи, а не только проводилось окончательное тестирование.

Отличительной особенностью проекта является участие медицинских специалистов с самых ранних этапов. По данным EPFL, MeditronFO был разработан с участием врачей в отборе данных, проверке результатов и выявлении потенциальных критических проблем. Такой подход снижает риск разработки сложных с формальной точки зрения инструментов, плохо соответствующих повседневной практике.

Проверка также проходит через ДВИГАТЬСЯЭто аббревиатура от Massive Open Online Validation and Evaluations (массовая открытая онлайн-валидация и оценка), среда, в которой врачи участвуют в оценке и постоянном совершенствовании моделей. Для технологии, предназначенной для взаимодействия с реальной медициной, это критически важный момент: задача состоит не просто в том, чтобы правильно ответить на вопрос, а в том, чтобы сделать это в условиях, аналогичных тем, в которых работает врач, с ограничениями по времени, неполной информацией и оперативными обязанностями.

Данная структура объединяет общедоступные медицинские наборы данных с проверенными врачами синтетическими данными, полученными в результате медицинских обследований, руководств и реальных клинических случаев. В исходном коде EPFL также указано использование набора клинических наборов данных, отобранных экспертами, из более чем... 46 000 клинических рекомендацийЭти данные важны, поскольку они показывают масштаб документации, использованной для специализации моделей, но их следует рассматривать в контексте вопроса качества: в здравоохранении количества включенных знаний недостаточно, если они не сопровождаются отбором, анализом и контекстуализацией.

Мэри-Энн Хартливрач и директорСветлый связывает конкурентоспособность моделей с активной ролью врачей и сообществ.

«Наши выводы показывают, что конкурентоспособные медицинские модели могут быть созданы при активном участии врачей и местных сообществ».

Этот сдвиг имеет организационные последствия. Медицинский ИИ представляется не как инструмент, привнесенный в систему здравоохранения извне, а как программная архитектура, которую необходимо разрабатывать совместно с теми, кто знаком с процедурами, повторяющимися ошибками, институциональными ограничениями и различиями в контекстах. Для компаний, занимающихся медицинскими технологиями, университетских центров и больниц урок очевиден: перенос из центра… исследования и разработки Для клинической практики требуется не только вычислительная мощность, но и управление.

Технические результаты и роль швейцарских вычислительных мощностей

Что касается производительности, EPFL сообщает, что каждая модель MeditronFO превзошла свою базовую модель. Лучший результат, указанный в пресс-релизе, касается Apertus-70B-MeditronFOчто улучшило результаты медицинских тестов Процентные пункты 6,6 по сравнению с базовой моделью. Данные следует интерпретировать с осторожностью: эталонные показатели полезны для сравнения технических конфигураций, но они не заменяют клинических оценок в реальных условиях.

Промышленная значимость данного проекта также заключается в инфраструктуре, которая его поддерживает. Разработка MeditronFO осуществлялась при поддержке Швейцарская инициатива в области искусственного интеллектасотрудничество между EPFL, ETH Zurich и CSCSШвейцарский национальный суперкомпьютерный центр. Согласно веб-сайту инициативы, программа была запущена в декабре 2023 года и насчитывает более 20 000 участников. 10 миллионов часов работы графического процессора на суперкомпьютере Alps, которым управляет CSCS, и при финансовой поддержке 20 миллионов швейцарских франков Федеральный домен политехнических институтов.

Эти цифры показывают, почему конкуренция в сфере искусственного интеллекта в здравоохранении — это не только алгоритмы и наборы данных. Она требует вычислительной мощности, распределенной экспертизы, инфраструктуры оценки и критической массы исследований. Сама Швейцарская инициатива в области ИИ утверждает, что получает выгоду от вклада более чем 100 000 человек. 800 исследователи, включены 70 профессоров, специализирующихся на искусственном интеллекте.из более чем десяти академических учреждений в ШвейцарияIn questo quadro, il суперкомпьютер Это не просто технический ускоритель, а компонент научного суверенитета.

Связь с Apertus также подкрепляет эту интерпретацию. На веб-сайте проекта он описывается как полностью открытая базовая модель для суверенного ИИ, разработанная Швейцарской инициативой в области ИИ совместно с EPFL, ETH Zurich и CSCS. Apertus заявляет об открытости своих весов, данных, кода, методов и принципов согласования. MeditronFO использует эту базу в качестве одной из моделей для специализации в медицинской области, демонстрируя, как подход к открытости на более ранних этапах может создавать более управляемые вертикальные приложения.

От экспериментов до больничных палат: полигон для испытаний в Танзании.

Следующим шагом будет не просто сравнение новых моделей. По данным EPFL, команда готовит клинические испытания на нескольких площадках. Швейцария все ТанзанияЦель исследования – оценить, как врачи используют ИИ в реальных условиях здравоохранения. В ходе испытаний будет установлено, следуют ли врачи сгенерированным рекомендациям или отклоняют их, и как эти решения влияют на качество медицинской помощи пациентам.

Многолетний проект, упомянутый EPFL, называется МЕДИЦИНСКОЕ ИСПОЛЬЗОВАНИЕЦель также состоит в том, чтобы понять, может ли ИИ помочь улучшить качество медицинской помощи за счет сокращения ненужных процедур и вмешательств. Это деликатная область: система поддержки принятия решений может быть полезна, если она улучшает качество доступной информации, но может стать проблематичной, если она вводит автоматизацию или поощряет чрезмерное доверие к алгоритмическим рекомендациям.

Хартли особо подчеркивает необходимость измерения эффекта на этапах лечения, а не только в ходе технических испытаний.

«Важно получать обратную связь из реальной практики, основанную на результатах лечения пациентов».

Искусственный интеллект, используемый в клинической практике, станет более заслуживающим доверия, когда его можно будет проверить.

Для сектора здравоохранения MeditronFO указывает четкое направление: клинический ИИ станет более заслуживающим доверия, когда его смогут проверять, адаптировать и оценивать независимые сообщества. Для бизнеса это означает, что проприетарные модели должны будут соответствовать растущим ожиданиям прозрачности. Для учреждений проблема заключается в возможности определения правил, которые различают формальную и фактическую открытость.

Нереалистично полагать, что все медицинские системы основаны на машинного обучения или e глубокое обучение стать полностью открытыми. Однако вполне вероятно, что здравоохранение потребует более высоких стандартов документации, возможности аудита и подотчетности, особенно когда ИИ войдет в сферы принятия решений. В этом смысле MeditronFO следует рассматривать не просто как новую модель, а как эксперимент в области технического управления: он делает видимым то, что часто остается скрытым за сгенерированным ответом.

Таким образом, ключевой вопрос заключается не в абстрактном обещании более мощного ИИ. Речь идет о том, какую инфраструктуру намерены принять системы здравоохранения, университеты и регулирующие органы. Если модели станут частью клинической практики, доверие должно основываться на проверяемых элементах: происхождении данных, независимых аудитах, прозрачно измеряемых показателях эффективности и идентифицируемой ответственности человека. MeditronFO ставит эти элементы в центр обсуждения, оставляя оценку их операционной жизнеспособности на уровне клинических испытаний.

Meditron Open Sources: Аудируемые рабочие процессы ИИ для клинических магистерских программ.

Вот три идеи, которые могут вас заинтересовать:

Новая мультимодальная модель от EPFL для более гибкого ИИ
Apertus — это швейцарский «открытый ИИ» для более прозрачного будущего.
Современный медицинский центр в Женеве, полностью основанный на искусственном интеллекте