Polska ustawa o wyrobach medycznych wkrótce straci znaczenie, ponieważ zostanie zastąpiona rozporządzeniem unijnym. Jest to podobna ewolucja jak w przypadku ochrony danych osobowych, gdzie także dyrektywę i krajowe ustawy zastąpiło rozporządzenie.
Software może być wyrobem medycznym zgodnie z prawem unijnym (dyrektywa, rozporządzenie). W prawie unijnym są trzy rodzaje softwaru, a mianowicie:
- oprogramowanie ogólnego zastosowania (np. systemy typu ERP powszechnie stosowane w służbie zdrowia),
- oprogramowanie do zastosowań związanych ze stylem życia i samopoczuciem (oprogramowanie lifestyl’owe),
- specjalnie przeznaczone przez producenta do celów takich, jak wyrób medyczny, tj. szczególnie diagnozowania, zapobiegania, monitorowania, leczenia lub łagodzenia przebiegu choroby.
O ile punkty jeden i dwa nie rodzą istotnych wątpliwości prawnych, o tyle punkt trzeci stwarza pole do popisu dla menadżerskich i prawnych rozstrzygnięć. W szczególności kluczowy jest cel zastosowania softwaru według samego producenta. Będzie zatem jego własnym rozstrzygnięciem, czy pozostanie na rynku paramedycyny, suplementów diety i uzdrawiaczy, czy wejdzie na rynek zdrowia charakterystyczny dla państw w IV fazie rewolucji przemysłowej.
- Rynek paramedycyny
W każdym razie nieprzeznaczenie danej aplikacji do „diagnozowania, zapobiegania, monitorowania, leczenia lub łagodzenia przebiegu choroby” wyjmie ją spod kategorii wyrobów medycznych, a zatem jednocześnie zlikwiduje bariery wejścia z oprogramowaniem na ściśle reglamentowany rynek wyrobów medycznych.
W przypadku takiego nieprzeznaczenia do celów takich, jak wyrób medyczny, danego oprogramowania, brak będzie także odpowiedzialności za wadliwe „diagnozowanie, zapobieganie, monitorowanie, leczenie lub łagodzenie przebiegu choroby”.
Otwiera to drogą do powstania rynku aplikacji, które będą wspierały leczenie „bez odpowiedzialności” tj. z zastrzeżeniem, że np. „Doktorsoft nie zastąpi diagnozowania, zapobiegania, monitorowania, leczenia lub łagodzenia przebiegu choroby i nie jest wyrobem medycznym”. W przypadku skierowania oferty do konsumentów tego rodzaju oświadczenia powinny znaleźć się też w reklamie i w opisie softwar’u ze względu na prawne regulacje prokonsumenckie.
2. Rynek wyrobów medycznych
Tymczasem wejście na rynek wyrobów medycznych z oprogramowaniem opartym na SI może napotkać na istotne bariery. O ile bazodanowe oprogramowanie wspomagające wybór właściwego lekarstwa poprzez wyławianie szkodliwych dla pacjenta interakcji z innymi lekami lub porównywanie szkodliwości i cen produktów leczniczych, jakie mogą być zastosowane w jego przypadku, poddaje się testom skuteczności, o tyle paradoksalnie nowocześniejsze i mające o wiele większy potencjał oprograwanie oparte na SI, niekoniecznie.
Okazuje się, że SI w medycynie tworzy specyficzny problem czarnej skrzynki (por. Świat robotów radiologów, S. Reardon, Świat Nauki, marzec 2020 i np. https://youtu.be/5HqbwiRUGUw). Producenci oprogramowania wiedzą, że ono działa wskazując trafne – i z każdym przypadkiem coraz trafniejsze – rozwiązania, nie wiedzą jednak dlaczego. Nieznajomość mechanizmu działania potencjalnego wyrobu medycznego w zasadzie wyklucza jednak wejście z nim na rynek wyrobów medycznych, tj. pokonanie wysoko postawionej, administracyjnej poprzeczki dopuszczenia do obrotu.
Wracając na chwilę do wcześniej już na blogu sygnalizowanych potencjalnych przyczyn odpowiedzialności prawnej producenta SI (por. https://www.prawoit.pl/2019/10/13/problemy-prawne-sztucznej-inteligencji-samochody-samosterowne/ ), także jeśli chodzi o zastosowania medyczne wskazuje się na niewłaściwie dobrany zbiór danych i / lub niewłaściwie opisane jego cechy.
Na przykład:
- rozpoznanie zapalenia płuc na podstawie obrazu – okazało się, że producent nie przewidział, że SI będzie brała pod uwagę to, jaką liczbę zapaleń płuc wykrywano w poszczególnych ośrodkach, z których pochodziły obrazy, tymczasem SI wiedziała zarówno, z jakiego ośrodka pochodzi obraz płuc, jak i jaką liczbę zapaleń płuc w tym ośrodku na tle innych ośrodków wykryto i zbyt często wykrywała zapalenia płuc na obrazach z ośrodków, gdzie wykrywano ich więcej (innymi słowy – błąd producenta, który pozwolił SI uczyć się w oparciu o taki zbiór i takie podane SI jego cechy mógłby okazać się błędem, za który producent odpowiada prawnie),
- znaczenie mogą mieć inne nieprzewidziane czynniki w analogicznych sytuacjach, tj. np. SI może dostrzec, że częściej dany wynik mają osoby otyłe lub z bliznami lub badane w określonych porach dnia lub roku – jest to aktualnie dla producentów oprogramowania opartego na SI niemożliwe lub niezwykle trudne do zagwarantowania, że tak się nie stanie.
Mimo tego problemu czarnej skrzynki w USA dopuszczono do obrotu program analizujący obrazy siatkówki oka w celu wykrycia retinopatii cukrzycowej i jak twierdzi Scientific American, zdaniem producenta program „jest nieomylny w 87%”. Scientific American przedstawia też kilka innych udanych wejść na rynek z softwarem opartym na SI jako wyrobem medycznym, np. diagnozowanie raka na podstawie obrazu. Należy zakładać, że w tych przypadkach udało się zminimalizować niemal do zera efekt „czarnej skrzynki” i dokładnie wyjaśnić mechanizm działania SI zapewniając jednocześnie wystarczająco różnorodny zbiór o przewidywalnych cechach.
Wymaga natomiast podkreślenia, że problemem prawnym nie może być sama „omylność” na poziomie kilkunastu procent, ponieważ z prawnego punktu widzenia akceptujemy także „omylność” lekarzy, jeśli tylko dochowali oni należytej staranności. Jeśli w rezultacie „omylność” SI dla danej jednostki chorobowej jest mniejsza niż „omylność” lekarzy, to otwiera to pole do wejścia na dany segment rynku medycznego z SI.
***
Odpowiedzialność w leczeniu z prawnego punktu widzenia od zawsze nie jest absolutna. Kiedy stosujemy produkt leczniczy, to już z samej ulotki wynika, że może on nam szkodzić (a wręcz – najczęściej tak jest!), a kiedy uda nam się wyjść z choroby, to nie wiemy, czy pomogło lekarstwo lub wyrób medyczny, czy limfocyty. Nie ma zatem wątpliwości, że SI stopniowo będzie podbijała kolejne segmenty rynku medycznego mimo istniejących barier czy to wspierając pracę lekarzy (najczęściej), czy też wręcz ją wyręczając (znacznie rzadziej).