Чи можна довіряти штучному інтелекту у сфері охорони здоров’я?
Штучний інтелект у медицині: що каже закон?
У Канаді практикувати медицину без ліцензії заборонено законом. В Онтаріо діє «Закон про регульовані професії охорони здоров’я», який суворо контролює виконання «контрольованих дій». До них належать, зокрема, хірургічні втручання, призначення лікарських засобів та повідомлення діагнозів – усі ці дії мають виключно виконуватися ліцензованими медиками. Адже помилки у медицині можуть завдати серйозної шкоди пацієнтам.
Де проходить межа між інформацією та діагнозом?
Сучасні мовні моделі штучного інтелекту, такі як ChatGPT і Llama-3 від Meta, дедалі частіше виходять за межі простої консультації і починають давати медичні «діагнози». В епоху цифрових технологій, коли доступ до лікаря обмежений, багато канадців звертаються по поради саме до AI, а не до реальних медичних фахівців. За даними Індексу вразливості до дезінформації Канадської медичної асоціації, кожен третій житель країни визнає, що орієнтувався на онлайн-консультації замість рекомендацій лікаря. При цьому майже чверть повідомляє про негативні наслідки такого підходу.
Ризики безконтрольного використання медичних чатботів
Компанії, що розробляють штучний інтелект, наполягають, що вони не займаються медициною. ChatGPT Health, спеціалізований на медичних питаннях чатбот, заявляє, що його мета — «підтримувати, а не замінювати лікування» і він «не призначений для постановки діагнозу чи лікування». Проте такі відмовки не витримують критики. За законами Онтаріо, під «повідомленням діагнозу» розуміється ситуація, коли можна передбачити, що користувач сприйме інформацію як діагностичну і буде керуватися нею у своїх діях. Тобто саме користувач визначає, чи був діагноз озвучений.
Реальні випадки, які пояснюють небезпеку
Відомий випадок з Annals of Internal Medicine описав 60-річного чоловіка, який запитав ChatGPT, як зменшити споживання солі. Чатбот порадив замінити звичайну кухонну сіль (хлорид натрію) на бромід натрію — речовину, яка виявилась отруйною для пацієнта. В результаті йому довелося провести три тижні у лікарні через токсичність броміду — стан, що зараз є великою рідкістю, адже броміди давно вилучені з харчових продуктів.
Така ситуація показує, що не варто вважати користувачів неусвідомленими або наївними. Мовні моделі створені таким чином, щоб бути переконливими та позиціонувати себе як ідеальний лікар, що висловлюється авторитетно, персоналізовано і з турботою. Натомість користувачі можуть бути слабкими, наляканими, не мати достатньої медичної грамотності, але все одно довіряють порадам штучного інтелекту, навіть якщо поруч є попередження.
Дослідження та реальний вплив AI-медичних рад
Нещодавнє дослідження в журналі Nature показало, що ChatGPT занизив серйозність медичних надзвичайних станів у 52% випадків, що є серйозним сигналом про потенційні ризики.
Протягом багатьох років чатботи trên платформах, таких як ChatGPT, рекламували себе як «помічники з медичної діагностики». Один з популярних ботів обіцяв надавати користувачам базові діагнози, що фактично є порушенням закону, адже такі дії мають виконуватися тільки медиками з ліцензією.
Правове поле та регулювання: що чекає майбутнє?
Проблеми законодавства та відповідальності
Законодавство Онтаріо передбачає серйозні штрафи — до 50 000 доларів, тюремне ув’язнення або навіть кримінальні звинувачення, якщо хтось займається контролюючими медичними діями без ліцензії. Проте регулятори досі пасивні, і технологічні компанії користуються можливістю контролювати сферу клінічної влади без відповідних обмежень і відповідальності.
Канадські суди ще не дали чітких визначень щодо того, чи можуть компанії, що розробляють LLM, нести відповідальність за незаконне заняття медичною практикою. У той же час політики прагнуть підтримувати інвестиції у штучний інтелект. Без чітких вимог і відповідальності потерпілі пацієнти змушені самотужки боротися за свої права через складні судові позови з питань недбалості або шкоди.
Приклади з практики та міжнародний досвід
Варто згадати випадок у Британській Колумбії, де спеціалізований трибунал визнав компанію Air Canada відповідальною за поширення хибної інформації через AI-чатбот. Цей вердикт встановив прецедент: компанія не може уникнути відповідальності за результати роботи штучного інтелекту.
Що потрібно зробити для безпеки пацієнтів?
Щоб захистити користувачів від небезпек, які несуть медичні чатботи, потрібно розглянути декілька важливих напрямів:
– Запровадження стримувальних заходів, які заборонять чатботам робити діагностичні висновки або лікувальні рекомендації;
– Встановлення ліцензійної системи для моделей штучного інтелекту, подібно до лікарів;
– Запровадження аудиту після запуску, обов’язкових звітів про завдану шкоду та публічних механізмів подачі скарг.
Такі кроки допоможуть контролювати якість і безпеку AI-інструментів і дадуть пацієнтам можливість захиститися і навіть відстояти свої права у випадку помилки.
Можливості штучного інтелекту у медицині: шанс чи загроза?
Штучний інтелект дійсно може стати ключем до кращого здоров’я та якіснішої медицини. Але для цього він має діяти так само відповідально, як і лікарі, і нести таку ж відповідальність за свої дії. Лише тоді цифрові інновації по-справжньому підвищать якість життя без небезпечних ускладнень.
