Hackerii care pot ucide oameni: care e riscul unui atac cibernetic asupra spitalelor

Pe 9 septembrie 2020, o femeie a murit în timpul unui atac cibernetic asupra unui spital din Düsseldorf, Germania. Femeia se afla într-o stare critică și era pe punctul de a fi tratată, atunci când hackerii au dezactivat sistemele informatice ale spitalului. Incapabil să prevină atacul, personalul medical a trebuit să o transfere pe femeie la un alt spital, dar ajutorul a venit prea târziu și femeia a murit.

Acest incident a fost primul caz de deces raportat după un atac cibernetic și arată că astfel de atacuri nu mai sunt doar o amenințare pentru datele noastre, ci și pentru viețile noastre.

De fapt, situația este urgentă. Știm că atacurile cibernetice asupra dispozitivelor medicale și a rețelelor de spitale reprezintă o amenințare în creștere. În timpul pandemiei actuale, unele tipuri de atacuri cibernetice au crescut cu 600%.

Și nu doar sistemele informatice vechi sunt vulnerabile. Chiar și cea mai bună inteligență artificială (AI) din medicină poate fi compromisă. Cercetările academice dezvăluie în mod continuu noi modalități prin care AI de ultimă generație poate fi atacată. Astfel de atacuri pot bloca intervențiile de salvare a vieții, pot submina precizia diagnosticului, pot administra doze letale de medicamante sau pot sabota mișcări critice într-o operație.

Riscurile unui atac cibernetic sunt inerente

Medicii trebuie să facă tot ce pot pentru a menține pacienții în siguranță, dar, ca o problemă de divulgare medicală generală, ar trebui să le spună pacienților despre riscul unui atac cibernetic, cel puțin atunci când asistența medicală se bazează în mod critic pe computere?

La urma urmei, pacienții trebuie să își dea consimțământul în cunoștință de cauză cu privire la procedurile medicale, iar medicii sunt obligați să îi avertizeze pe pacienți cu privire la consecințele potențial dăunătoare.

În unele cauze legale din SUA, judecătorii au susținut că medicii trebuie să dezvăluie un risc numai dacă este „inerent” unei proceduri medicale, adică un risc care „există și este inseparabil de procedura în sine”.

Bazându-se pe un astfel de punct de vedere, se poate argumenta că riscul atacurilor cibernetice nu este un risc „inerent” și, prin urmare, nu necesită divulgare. Mulți echivalează riscurile „inerente” cu riscurile „medicale” și, prin urmare, exclud riscul „criminal” al unui atac cibernetic.

Această viziune împotriva divulgării ridică un punct important. Există într-adevăr o legătură între cerința divulgării și expertiza unui medic ca profesionist medical. Medicii trebuie să dezvăluie riscurile medicale inerente.

Dar nu se poate aștepta ca medicii să prezică dacă anumite persoane își vor viza pacienții prin atacuri cibernetice. La urma urmei, medicii nu sunt criminologi. Deci, ei nu sunt cu adevărat capabili, darămite obligați, să dezvăluie aceste riscuri.

Pe de altă parte, această concepție împotriva divulgării subestimează mai multe aspecte importante. Pentru început, digitalizarea și utilizarea în creștere a sistemelor informatice în medicină vor face ca riscul atacurilor cibernetice să fie omniprezente în domeniul sănătății.

Trebuie medicii să dezvăluie aceste riscuri?

Astfel, chiar dacă este posibil să nu fie un risc „inerent”, va fi cu siguranță o parte inevitabilă a realității clinice viitoare și, dacă dorim ca pacienții să ia decizii bine informate, ar trebui să știe despre un astfel de risc.

De asemenea, chiar dacă medicii nu trebuie să dezvăluie riscuri penale generale, li se cere să dezvăluie riscurile pe care echipamentul lor medical le prezintă pacienților. La urma urmei, supunerea la proceduri medicale lasă oamenii vulnerabili în moduri importante și, dacă anumite proceduri bazate pe computer introduc noi vulnerabilități, un pacient informat va trebui să știe despre ele.

În cele din urmă, spre deosebire de atacurile cibernetice tradiționale, riscul unor noi atacuri cibernetice poate deveni „inerent”, așa cum s-a definit mai sus.

Să luăm în considerare cazul AI medical. În așa-numitele „atacuri de intrare” asupra AI medicale, un atacator poate modifica valoarea pixelilor unei scanări RMN, astfel încât sistemul AI să clasifice țesutul ca fiind fals malign, cu o rată de încredere de peste 99%, atunci când l-ar clasifica corect ca fiind benign cu aceeași rată de încredere în absența atacului. Ochiul uman nu este capabil să detecteze astfel de modificări. Atacatorul ar trebui doar să împrăștie peste imagine niște “praf digital” bine plasat.

Modalitatea de a detecta un atac cibernetic

Singura modalitate de a detecta un atac este de a detecta intruziunea într-un alt sistem informatic, unde au fost stocate imaginile medicale. Dar chiar și aici, este posibil să nu știm dacă, pe lângă pătrunderea în baza de date și potențialul furt de date medicale, atacatorii au făcut modificări asupra imaginilor medicale, care ar fi putut fi motivele lor și ce consecințe ar putea aștepta pacienții ca un rezultat.

Deci, spre deosebire de alte atacuri cibernetice, atacurile de intrare nu își mai compromit sistemul țintă. Sistemul AI în sine, algoritmul său și modul în care funcționează pot fi lăsate complet neatinse.

Cu alte cuvinte, sistemul AI ar funcționa în mod normal, nu ar fi afectat de nicio eroare sau interferență, iar medicul care efectuează sau supraveghează procedura ar acționa cât mai profesional posibil.

Prin urmare, nicio astfel de procedură bazată pe AI nu poate evita vulnerabilitatea la atacuri de intrare. Dar dacă este așa, riscul atacurilor devine „inerent” anumitor proceduri medicale, așa cum s-a definit anterior.

Există motive temeinice pentru a impune divulgarea riscurilor cibernetice pacienților, cel puțin în anumite proceduri medicale cu miză mare.

Cu toate acestea, riscurile cibernetice sunt doar un nou tip de risc cu care se pot confrunta pacienții în viitor. Când algoritmii joacă un rol din ce în ce mai mare, trebuie să ne gândim, de asemenea, dacă medicii ar trebui să dezvăluie riscul ca acești algoritmi să fie părtinitori în mod sistematic sau riscul ca, din cauza opacității anumitor sisteme de AI, medicii să nu mai poată înțelege tehnicile.

În orice caz, dependența tot mai mare de sisteme informatice și AI cere să ne gândim din nou la dezvăluirea medicală . În caz contrar, practica clinică nu va fi pregătită pentru transformările majore care o așteaptă.