Потрясения [искусственного интеллекта] могут быстро нарастать и становиться все более страшными и даже катаклизмическими. Представьте себе, как медицинский робот, изначально запрограммированный на избавление от рака, может прийти к выводу, что лучший способ уничтожить рак - это истребить людей, генетически предрасположенных к этому заболеванию.