Подумалось

[pargentum]

Что события в Ницце - это довольно сильный аргумент против автономных и дистанционно управляемых автомобилей.

Comments

[pargentum.livejournal.com]

Это тоже правда, но мне кажется это не главный аргумент.
Главный аргумент - что вирус написать может и обкуренный джихадист, много ума для этого не надо.

[trurle.livejournal.com]

Вирус - точнее, программы взлома управляющего компьютера - можно и заказать. Джихадистам для этого ломать свои тупые головы не надо.

[e2pii1.livejournal.com]

написать "вирус" для робомобиля который задавит 80 человек (а не свалится в ближайший кювет) - задача сравнимая по сложности с программой автономного водителя, с которой до сих пор гуглы с автофирмами не могут справится.

[pargentum.livejournal.com]

Так ведь робомобиль, по определению, уже имеет программу автономного водителя. Задача только в том, чтобы сменить ей приоритеты. Вместо того чтобы объезжать пешеходов, велеть ей их давить.

[e2pii1.livejournal.com]

Так исходников же нет, без исходников эту модификацию нереально слелать.

И с исходниками это нетривиальный апдейт требующий высокой квалификации - там ведь сложнейший алгоритм оперирующий с массой разных сигналов и ситуаций, не "пешеходы на сфере в вакууме". Что если там вообще что-то типа нейронной сети, в которой изолированного понятия "пешеход" вообще нет.

У разработчиков наверно хватит ума аппаратно и софтверно защитить код от модификаций, а при попытке взлома посылать сигнал тревоги. Т.е. взлом потребует еще и высочайшей хакерской (софт и хард) квалификации.

[pargentum.livejournal.com]

Так исходников же нет, без исходников эту модификацию нереально слелать.
Полная чушь, извините. Конечно, модификация бинарного кода дороже (по человеко часам), чем модификация исходников, но всего лишь в разы (даже не на порядки). Если речь идет о коммерческой поддержке продукта, это существенно, а если речь идет о внесении одного изменения - почти не имеет значения.

И с исходниками это нетривиальный апдейт требующий высокой квалификации
У большинства разработчиков вирусов квалификация гораздо ниже, чем у разработчиков ядра Windows. Но они вносят изменения в ядро Windows без особых проблем.

У разработчиков наверно хватит ума аппаратно и софтверно защитить код от модификаций
Расскажите это любителям рутить айфоны.

[e2pii1.livejournal.com]

Тут вносить изменения придётся намного более сложные чем разработчики вирусов в ядро Windows.

Задачи типа "найти в бинарном коде обращение к HASP-ключу и снять защиту" или "вставить в нужное место в утилите свой злобный код" - принципиально проще: там надо лишь найти нужное место в коде, которое находится автоматически по тривиальному условию, и сделать тривиальную модификацию оригинального кода добавив вызов своего кода, который сам по себе не столь сложен. Но даже такие задачи требуют высокой хакерской квалификации, произвольный Ахмед накурившийся корана не справится.

В программе автономного водителя скорей всего нельзя будет "просто сменить ей приоритеты. Вместо того чтобы объезжать пешеходов, велеть ей их давить." - она скорей всего устроена не так. Там нету "таблицы объектов с приоритетами" которую можно было бы найти в коде и подправить приоритет так что стала бы давить (кстати, даже если б и была, её найти намного сложнее чем в вышеупомянутых задачах, событие обращения к такой таблице никак внешне не проявляется, его в отладчике не отловишь как обращение к HASP-ключу).

Там не таблица, а сложнейший алгоритм, который придётся превращать в другой сложнейший алгоритм, массой нетривиальных изменений, которые надо сделать так чтоб работали в куда более сложном и непредсказуемом мире чем файловая система PC.

Более того, программа автономного водителя может и вообще не иметь изолированного понятия "пешеход". Может она различает "чистую дорогу" от "каких-то препятствий" - если "сменить ей приоритеты" в первый столб въедет.
Или это нейронная сеть неким набором абстрактных арифметических операций преобразующая входную растровую картинку в команды рулю и тормозам - там вообще нечего модификацировать, все её локальные части бессмысленны.

И даже если суметь успешно сделать такую модификацию (что уже очень сомнительно) - получится лишь программа давящая пешеходов случайно попавшихся ей нa дороге, такая не успеет задавить ни 80 ни 8 человек пока полиция её не подобьёт. Для атаки типа Ниццы надо целенаправленно выискивать скопления пешеходов и проводить правильную стратегию охоты за ними - таких пропрограмм в "программе автономного водителя" точно нет, это придётся с нуля разрабатывать, а это задача сравнимая по сложности с "программой автономного водителя".

айфоны так не защищают - айфон и дешевле автомобиля, и такого ущерба не может нанести.
Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.

[pargentum.livejournal.com]

Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.
К бортовым компьютерам больших пассажирских самолетов имеет доступ очень ограниченный круг лиц. Автомобилей гораздо больше, и народ вряд ли обрадуется, если у них введут такие же регламенты техобслуживания, как у самолетов (ссылка в тему: https://tech.slashdot.org/story/16/07/19/1415209/farmers-demand-right-to-fix-their-own-dang-tractors?utm_source=rss1.0moreanon&utm_medium=feed)

[e2pii1.livejournal.com]

Чинить подвинчивая гайки или заменяя сломанные детали может разрешат, а лезть в софтвер и менять его - врядли, для добропорядочного пользователя это незачем и опасно для окружающих, модификации ведь тестировать и верефицировать надо как они себя поведут в разных ситуациях.