Подумалось

[pargentum]

Что события в Ницце - это довольно сильный аргумент против автономных и дистанционно управляемых автомобилей.

Comments

[e2pii1.livejournal.com]

Тут вносить изменения придётся намного более сложные чем разработчики вирусов в ядро Windows.

Задачи типа "найти в бинарном коде обращение к HASP-ключу и снять защиту" или "вставить в нужное место в утилите свой злобный код" - принципиально проще: там надо лишь найти нужное место в коде, которое находится автоматически по тривиальному условию, и сделать тривиальную модификацию оригинального кода добавив вызов своего кода, который сам по себе не столь сложен. Но даже такие задачи требуют высокой хакерской квалификации, произвольный Ахмед накурившийся корана не справится.

В программе автономного водителя скорей всего нельзя будет "просто сменить ей приоритеты. Вместо того чтобы объезжать пешеходов, велеть ей их давить." - она скорей всего устроена не так. Там нету "таблицы объектов с приоритетами" которую можно было бы найти в коде и подправить приоритет так что стала бы давить (кстати, даже если б и была, её найти намного сложнее чем в вышеупомянутых задачах, событие обращения к такой таблице никак внешне не проявляется, его в отладчике не отловишь как обращение к HASP-ключу).

Там не таблица, а сложнейший алгоритм, который придётся превращать в другой сложнейший алгоритм, массой нетривиальных изменений, которые надо сделать так чтоб работали в куда более сложном и непредсказуемом мире чем файловая система PC.

Более того, программа автономного водителя может и вообще не иметь изолированного понятия "пешеход". Может она различает "чистую дорогу" от "каких-то препятствий" - если "сменить ей приоритеты" в первый столб въедет.
Или это нейронная сеть неким набором абстрактных арифметических операций преобразующая входную растровую картинку в команды рулю и тормозам - там вообще нечего модификацировать, все её локальные части бессмысленны.

И даже если суметь успешно сделать такую модификацию (что уже очень сомнительно) - получится лишь программа давящая пешеходов случайно попавшихся ей нa дороге, такая не успеет задавить ни 80 ни 8 человек пока полиция её не подобьёт. Для атаки типа Ниццы надо целенаправленно выискивать скопления пешеходов и проводить правильную стратегию охоты за ними - таких пропрограмм в "программе автономного водителя" точно нет, это придётся с нуля разрабатывать, а это задача сравнимая по сложности с "программой автономного водителя".

айфоны так не защищают - айфон и дешевле автомобиля, и такого ущерба не может нанести.
Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.

[pargentum.livejournal.com]

Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.
К бортовым компьютерам больших пассажирских самолетов имеет доступ очень ограниченный круг лиц. Автомобилей гораздо больше, и народ вряд ли обрадуется, если у них введут такие же регламенты техобслуживания, как у самолетов (ссылка в тему: https://tech.slashdot.org/story/16/07/19/1415209/farmers-demand-right-to-fix-their-own-dang-tractors?utm_source=rss1.0moreanon&utm_medium=feed)

[e2pii1.livejournal.com]

Чинить подвинчивая гайки или заменяя сломанные детали может разрешат, а лезть в софтвер и менять его - врядли, для добропорядочного пользователя это незачем и опасно для окружающих, модификации ведь тестировать и верефицировать надо как они себя поведут в разных ситуациях.