Результатом ошибки в программном обеспечении может быть, наприклад, синий экран смерти. Однако это еще хорошая версия. Может потому, что они также приводят к более тяжелым последствиям, включая такие, потери человеческих жизней и миллиарды долларов. И искать слишком далеко примеры. Ответственный за тесты безопасности в LogicalTrust Матфей Козельски утверждает, що "помилки є всюди, потому что программное обеспечение окружает нас всюду” и перечисляет несколько примеров, в которых незначительные упущения разработчиков привели к катастрофическим последствиям. И казалось бы, это всего лишь желание сэкономить время или у них было простое отсутствие фантазии.
Therac-25
між 1985 і 1987 роком. 6 человек получили ожоги в результате облучения аппаратом Therac-25. Трое из них умерли в результате несчастного случая. В ході першого інциденту, в результате которого пациентка потеряла грудь, виявилося, что автомат отобразил команду “ОК” и предоставив в 100 разів більшу дозу радіації, ніж випливало з завдання. Виробник, корпорация AECL признала, что это невозможно и не было принято никаких мер. В том же 1985 году – другая неисправная машина, показала сообщение об ошибке и продолжила облучение. оператор, не знающий свое устройство, принудил к выполнению процедуры. Машина в пять раз предпринимала попытку прервать операцию, після чого зовсім відмовилася підкорятися. 3 месяца спустя, пациент, який брав участь в операції, скончался в связи с осложнениями облучения.
AECL очень долго отрицала вину, признавая, что нет возможности, чтобы Therac-25 выбрал неправильную дозу или сделал облучение. Незважаючи на це, причинение ожогов при ее использовании каснулось еще нескольких человек, а дело передано в суд. В ході судового розгляду, представник AECL зізнався, что „небольшое число” тестов устройства попало на рынок. Як виявилося, автомат, стоящий более 1 млн доларів, был оснащен программным обеспечением, созданным одним лицом. Несчастные случаи стали возможными в результате двух мелких упущений разработчика. Однако в целом, вистачило однієї, очень важного строки кода, которая составляла несколько десятков символов. З іншого боку, помилка з великою ймовірністю була б виправлена перед впровадженням продукту на ринок, если бы была проведена тестовая процедура.
джерело: Wheel Systems
