Іноді помилки у програмному забезпеченні призводять не тільки до технічних незручностей та фінансових втрат, а й до летальних наслідків. Один з таких найвідоміших випадків стався у період з 1985 по 1987 роки, коли апарат променевої терапії Therac -25 через помилки у софті призвів до опромінення шести людей дозами радіації, які у 100 разів перевищували допустимі норми. Через це троє людей загинули.

У 1985 році Therac -25 був дуже перспективним для лікарів, оскільки пропонував революційний на той момент комплекс з двох режимів лікування в одному компактному апараті. Therac -25 можна було використовувати для лікування захворювань поверхневих тканин, наприклад раку шкіри. Другий режим роботи пропонував мегавольтну рентгенівську терапію. За цього режиму високовольтний електронний промінь міг впливати на глибоко розташовані тканини. 

Апарат Therac -25 став одним з перших, що перейшов виключно на програмне забезпечення. До цього у подібних апаратах використовувались електромеханічні апаратні блокування для запобігання опроміненню підвищеними дозами радіації. За словами низки експертів, Therac -25 мав ті самі програмні помилки, які були в його попередника Therac-20, однак апаратне забезпечення Therac-20 блокувало будь-які небезпечні умови роботи, навіть якщо програмне забезпечення давало збої.

Згодом студентка магістратури з інформатики Каліфорнійського державного університету Енн Марі Поррелло докладно описала причини програмного збою Therac -25 у шести відомих випадках, коли від цього постраждали пацієнти. Зазвичай до появи збою призводив неправильно обраний оператором режим роботи, який після цього швидко намагались виправити. Досвідчений оператор міг так швидко змінити параметри обробки, що програма пропускала перевірку безпеки через перебування у “стані перегонів” між обробником вхідних даних та логікою пучка випромінювання. 

Therac -25 необхідно було близько 8 секунд, щоб змінити режим пучка випромінювання, отже, спритні оператори могли заплутати програмне забезпечення вхідними даними за цей час. Перший подібний зафіксований випадок стався у червні 1985 року, а останній — у січні 1987 року. 

Зокрема, 3 червня 1985 року, перша пацієнтка внаслідок терапії на Therac -25 у Джорджії в США втратила руку та змушена була пережити операцію по видаленню грудей. Буквально через місяць у канадській провінції Онтаріо сеанс променевої терапії на Therac -25 закінчився для пацієнта необхідністю повної заміни тазостегнового суглоба. 

6 січня 1986 року у США ще один пацієнт після терапії на Therac -25 отримав незначну інвалідність та рубці. Через кілька місяців, 21 березня, у Техасі зафіксували перший смертельний випадок. 11 квітня у Техасі після терапії на Therac -25 померла ще одна людина. Останній смертельний випадок був зіфіксований у Вашингтоні, 17 січня 1987 року. 

Компанія-виробник Therac -25 AECL упродовж перших кількох місяців відкидала усі звинувачення, а ретельне розслідування обставин почалось лише навесні 1986 року. На той час розслідуванням аварій зайнялося також Управління санітарного нагляду за якістю харчових продуктів і медикаментів (FDA).

Після низки смертей, пов’язаних з терапією на Therac -25, почали з’являтись заклики до формальної верифікації, ретельного тестування та покращення документації для усього медичного програмного забезпечення. Проблеми з Therac-25 стали запобіжною історією, що часто викладається, в комп’ютерних науках.

Джерело: Tom’sHardware