Google реши да изтегли част от своите здравни обобщения, генерирани с изкуствен интелект на резултатите от търсенето, след като журналистическо разследване показа, че те биха могли да предоставят погрешна и потенциално опасна медицинска информация. Ходът засяга функции, известни като Прегледи на AI, полетата за бързи отговори, които се показват в горната част на търсенето с Google.
Компанията твърди, че тези обобщения обикновено са полезен и надежден за повечето потребителиНо случаят беше разкрит от британски вестник "Гардиън" Това постави акцент върху начина, по който Google обработва търсения, свързани със здравето, област, която е особено чувствителна както в Обединеното кралство, така и в останалата част на Европа.
Защо Google премахна AI Overviews в здравеопазването
Спорът избухна, когато „Гардиън“ установи, че AI Overviews връща данни от медицински анализ без правилния контекст.По-конкретно, при търсене на „какъв е нормалният диапазон за кръвни изследвания на черния дроб“ или „какъв е нормалният резултат от тест за чернодробна функция“, изкуственият интелект на Google показва дълъг списък с числови стойности, представени като нормални, без да пояснява, че тези диапазони зависят от множество лични фактори.
Специалисти по хепатология и говорители на пациентски организации предупредиха, че този начин на представяне на информация може да бъде подвеждащо за хора със сериозно чернодробно заболяванеПотребител със симптоми или анамнеза за състоянието може да види резултатите си в тези общи диапазони, да предположи, че всичко е наред и да отложи посещение при личния си лекар или специалист – нещо особено тревожно в здравни системи като тази в Испания, където… ранно откриване това е ключово.
Един от най-критикуваните моменти е, че обобщенията не са взели предвид основни променливи, като например възрастта, пола, етническата принадлежност или националността на пациентаНа практика това включва смесване на референтни данни от различни лаборатории и държави, създавайки впечатление за прецизност, която всъщност не е клинично подкрепена.
След публикуването на изследването, Google продължи да деактивирайте AI Overviews за тези специфични запитвания за чернодробната функцияЗасегнатите търсения, според самия анализ на "Гардиън"Те спряха да показват кутията с изкуствен интелект, въпреки че в много случаи първият органичен резултат ставаше именно статията, която осъждаше проблема.
Най-засегнатите здравни консултации: чернодробни функционални тестове
Най-поразителните примери са свързани с добре познатите чернодробни функционални тестове, много разпространени както в първичната медицинска помощ, така и в европейските болници. Тези тестове обхващат набор от анализи (като ALT, AST, билирубин, алкална фосфатаза и GGT, наред с други), които изискват индивидуализирана клинична интерпретация и те не могат да бъдат обобщени в един-единствен диапазон, валиден за всички.
Според Ванеса Хебдич, директор по комуникациите и политиката в Британски тръст за черен дробОтговорите, генерирани от изкуствения интелект на Google, предлагани списъци с числа, които дори не винаги съответстваха на конкретния тест което би могло да бъде извършено върху пациент. Освен това не беше ясно как някой може да има привидно нормални резултати и въпреки това да страда от сериозно чернодробно заболяване в ранен стадий.
Хебдич приветства премахването на тези обобщения от Google, считайки го за необходима стъпка за избягване на объркване. Той обаче настоя, че проблемът далеч надхвърля няколко търсения: тревожното е, че логиката зад изграждането на здравни прегледи, базирани на изкуствен интелект може да възпроизведе същия неуспех при други медицински консултации.
Самият британски вестник потвърди това, като леко промени формулировката на въпроса с изрази като „референтни диапазони за чернодробни функционални тестове“ или „референтен диапазон на чернодробните тестове“, Автоматичните обобщения продължаваха да се появяватПоне в първите няколко часа след като случаят излезе наяве. Едва след допълнителни проверки беше потвърдено, че Google също е премахнал тези богати резултати.
Официалният отговор на Google и неговите ограничения
В отговор на критиките, говорител на Google заяви, че компанията обикновено не... Коментирайте конкретни тегления в търсачката сиВместо да предостави подробности за това кои конкретни заявки са били променени, представителят просто заяви, че компанията работи върху „широки подобрения“ и прилага вътрешните си политики, когато открие, че съдържанието с изкуствен интелект няма необходимия контекст.
Говорителят добави, че вътрешен екип от медицински специалисти е прегледал търсенията, маркирани от "Гардиън" и, според неговата версия, в много случаи Информацията не беше строго неточна и беше подкрепена от висококачествени уебсайтове.Следователно, спорът се фокусира по-малко върху това дали данните са били неверни и повече върху това как са били представени на потребители без здравно обучение.
Това уточнение е от значение за европейския дебат относно регулирането на изкуствения интелект в здравеопазването, тъй като се фокусира върху отговорност на големи платформи при контекстуализиране на съдържаниетоПростото свързване към реномирани източници е недостатъчно, ако автоматизираното обобщение може да доведе до погрешни тълкувания по чувствителни теми, като например диагностични тестове или клинични параметри.
Засега компанията не е направила никакви конкретни публични съобщения за Испания или други европейски страни относно по-нататъшни промени в здравните прегледи с изкуствен интелект. Решенията относно търсачката обаче обикновено се прилагат в световен мащаб, така че Потребителите в Европа също ще видят засегнати функционалностите на изкуствения интелект. при работа със запитвания, подобни на тези, открити в Обединеното кралство.
Загриженост от страна на пациентски организации и здравни експерти
Освен специфичния случай с чернодробните функционални тестове, няколко организации се възползваха от възможността да предупредят за по-широк проблем: трудността, която много хора срещат при достъпа до ясна и надеждна медицинска информация в интернет. Сю Фарингтън, президент на Форум за информация за пациентиТой определи премахването на тези обобщения като „добра първа стъпка“, но подчерта, че все още има твърде много примери за неправилно здравно съдържание, генерирано от изкуствен интелект.
Поради това тези организации искат от Google и други големи технологични компании да се ангажират с приоритизиране на връзките към санитарни приложения и референтни здравни организациикато например здравни служби, университетски болници или признати пациентски асоциации. Те също така изискват при явно чувствителни търсения (например за рак, психично здраве или резултати от тестове) изкуственият интелект да включва видими предупреждения, за да насърчи потребителите да се консултират със здравен специалист.
Фарингтън отбеляза, че милиони възрастни във Великобритания, Испания и други европейски страни вече изпитват затруднения да разбират традиционната медицинска информация, дори от официални източници. Ако добавим към това... AI слой, който кондензира сложно съдържание без нюанси, рискът от недоразумения се увеличава още повече.
По подобен начин, технологични експерти като Виктор Тангерман, старши редактор на специализираното медийно издание футуризъмТе смятат, че случаят ясно илюстрира това Системите с генеративен изкуствен интелект все още не са готови да замени професионалните медицински насокиТангерман посочва необходимостта от установяване на ясни ограничения за това къде и как тези видове обобщения трябва да се използват.
Последици за Европа и за медицинските търсения на испански език
Въпреки че случаят стана известен чрез британска медия, последиците от него пряко засягат Европейския съюз, включително Испания. Европейските разпоредби относно изкуствения интелект, насърчавани чрез Закон за ИИТой вече включва специфични изисквания за системи с висок риск, включително сектора на здравеопазването, което би могло да повлияе на начина, по който Google и други платформи структурират своите продукти за търсене.
На практика милиони хора в Европа използват Google като първа точка за контакт по здравни въпросидори преди да се обадят в здравния си център или службата за резервации. Това означава, че всеки недостатък в показаната информация, колкото и фин да е, има потенциално влияние върху начина, по който потребителите интерпретират симптомите, тестовете или лечението.
За страни с обществени здравни системи като Испания, където се насърчават кампаниите за скрининг и ранна диагностика, е обезпокоително, че един-единствен резултат от търсенето може да обезкуражи някого да потърси медицинска помощ. запишете си час при семейния си лекар Това би могло да противоречи пряко на политиките в областта на общественото здраве. Оттук и интересът на много специалисти към това търсачката ясно да посочва, че интерпретацията на резултатите от тестовете винаги трябва да се извършва от медицински специалист.
В двуезични или многоезични среди, като например някои региони на Испания, съществува и допълнителната трудност, която автоматични преводи и генерирани резюмета Запазете предупрежденията, клиничните нюанси и специфичните референтни диапазони, които могат да варират в зависимост от лабораторията или държавата.
Целият този дебат отново отваря един фундаментален въпрос: до каква степен инструмент като Google Search, вече подобрен с генеративен изкуствен интелект, трябва да бъде включен в интерпретацията на сложни клинични проблеми? Епизодът с оттеглените „Обзори на изкуствения интелект в здравеопазването“ предполага, че освен ако не е налице подходящ контекст и строг медицински надзорВсеки опит за опростяване на здравната информация с изкуствен интелект крие риск от създаване на фалшиво чувство за сигурност, при което най-разумният начин на действие остава консултацията с професионалист.
