Тут вносить изменения придётся намного более сложные чем разработчики вирусов в ядро Windows.
Задачи типа "найти в бинарном коде обращение к HASP-ключу и снять защиту" или "вставить в нужное место в утилите свой злобный код" - принципиально проще: там надо лишь найти нужное место в коде, которое находится автоматически по тривиальному условию, и сделать тривиальную модификацию оригинального кода добавив вызов своего кода, который сам по себе не столь сложен. Но даже такие задачи требуют высокой хакерской квалификации, произвольный Ахмед накурившийся корана не справится.
В программе автономного водителя скорей всего нельзя будет "просто сменить ей приоритеты. Вместо того чтобы объезжать пешеходов, велеть ей их давить." - она скорей всего устроена не так. Там нету "таблицы объектов с приоритетами" которую можно было бы найти в коде и подправить приоритет так что стала бы давить (кстати, даже если б и была, её найти намного сложнее чем в вышеупомянутых задачах, событие обращения к такой таблице никак внешне не проявляется, его в отладчике не отловишь как обращение к HASP-ключу).
Там не таблица, а сложнейший алгоритм, который придётся превращать в другой сложнейший алгоритм, массой нетривиальных изменений, которые надо сделать так чтоб работали в куда более сложном и непредсказуемом мире чем файловая система PC.
Более того, программа автономного водителя может и вообще не иметь изолированного понятия "пешеход". Может она различает "чистую дорогу" от "каких-то препятствий" - если "сменить ей приоритеты" в первый столб въедет. Или это нейронная сеть неким набором абстрактных арифметических операций преобразующая входную растровую картинку в команды рулю и тормозам - там вообще нечего модификацировать, все её локальные части бессмысленны.
И даже если суметь успешно сделать такую модификацию (что уже очень сомнительно) - получится лишь программа давящая пешеходов случайно попавшихся ей нa дороге, такая не успеет задавить ни 80 ни 8 человек пока полиция её не подобьёт. Для атаки типа Ниццы надо целенаправленно выискивать скопления пешеходов и проводить правильную стратегию охоты за ними - таких пропрограмм в "программе автономного водителя" точно нет, это придётся с нуля разрабатывать, а это задача сравнимая по сложности с "программой автономного водителя".
айфоны так не защищают - айфон и дешевле автомобиля, и такого ущерба не может нанести. Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
no subject
Date: 2016-07-21 02:14 am (UTC)Задачи типа "найти в бинарном коде обращение к HASP-ключу и снять защиту" или "вставить в нужное место в утилите свой злобный код" - принципиально проще: там надо лишь найти нужное место в коде, которое находится автоматически по тривиальному условию, и сделать тривиальную модификацию оригинального кода добавив вызов своего кода, который сам по себе не столь сложен. Но даже такие задачи требуют высокой хакерской квалификации, произвольный Ахмед накурившийся корана не справится.
В программе автономного водителя скорей всего нельзя будет "просто сменить ей приоритеты. Вместо того чтобы объезжать пешеходов, велеть ей их давить." - она скорей всего устроена не так. Там нету "таблицы объектов с приоритетами" которую можно было бы найти в коде и подправить приоритет так что стала бы давить (кстати, даже если б и была, её найти намного сложнее чем в вышеупомянутых задачах, событие обращения к такой таблице никак внешне не проявляется, его в отладчике не отловишь как обращение к HASP-ключу).
Там не таблица, а сложнейший алгоритм, который придётся превращать в другой сложнейший алгоритм, массой нетривиальных изменений, которые надо сделать так чтоб работали в куда более сложном и непредсказуемом мире чем файловая система PC.
Более того, программа автономного водителя может и вообще не иметь изолированного понятия "пешеход". Может она различает "чистую дорогу" от "каких-то препятствий" - если "сменить ей приоритеты" в первый столб въедет.
Или это нейронная сеть неким набором абстрактных арифметических операций преобразующая входную растровую картинку в команды рулю и тормозам - там вообще нечего модификацировать, все её локальные части бессмысленны.
И даже если суметь успешно сделать такую модификацию (что уже очень сомнительно) - получится лишь программа давящая пешеходов случайно попавшихся ей нa дороге, такая не успеет задавить ни 80 ни 8 человек пока полиция её не подобьёт. Для атаки типа Ниццы надо целенаправленно выискивать скопления пешеходов и проводить правильную стратегию охоты за ними - таких пропрограмм в "программе автономного водителя" точно нет, это придётся с нуля разрабатывать, а это задача сравнимая по сложности с "программой автономного водителя".
айфоны так не защищают - айфон и дешевле автомобиля, и такого ущерба не может нанести.
Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.