pargentum: (Morda)
[personal profile] pargentum
Что события в Ницце - это довольно сильный аргумент против автономных и дистанционно управляемых автомобилей.

Date: 2016-07-20 02:33 pm (UTC)
From: [identity profile] pargentum.livejournal.com
Так ведь робомобиль, по определению, уже имеет программу автономного водителя. Задача только в том, чтобы сменить ей приоритеты. Вместо того чтобы объезжать пешеходов, велеть ей их давить.

Date: 2016-07-20 04:36 pm (UTC)
From: [identity profile] e2pii1.livejournal.com
Так исходников же нет, без исходников эту модификацию нереально слелать.

И с исходниками это нетривиальный апдейт требующий высокой квалификации - там ведь сложнейший алгоритм оперирующий с массой разных сигналов и ситуаций, не "пешеходы на сфере в вакууме". Что если там вообще что-то типа нейронной сети, в которой изолированного понятия "пешеход" вообще нет.

У разработчиков наверно хватит ума аппаратно и софтверно защитить код от модификаций, а при попытке взлома посылать сигнал тревоги. Т.е. взлом потребует еще и высочайшей хакерской (софт и хард) квалификации.

Date: 2016-07-20 04:51 pm (UTC)
From: [identity profile] pargentum.livejournal.com
Так исходников же нет, без исходников эту модификацию нереально слелать.
Полная чушь, извините. Конечно, модификация бинарного кода дороже (по человеко часам), чем модификация исходников, но всего лишь в разы (даже не на порядки). Если речь идет о коммерческой поддержке продукта, это существенно, а если речь идет о внесении одного изменения - почти не имеет значения.

И с исходниками это нетривиальный апдейт требующий высокой квалификации
У большинства разработчиков вирусов квалификация гораздо ниже, чем у разработчиков ядра Windows. Но они вносят изменения в ядро Windows без особых проблем.

У разработчиков наверно хватит ума аппаратно и софтверно защитить код от модификаций
Расскажите это любителям рутить айфоны.

Date: 2016-07-21 02:14 am (UTC)
From: [identity profile] e2pii1.livejournal.com
Тут вносить изменения придётся намного более сложные чем разработчики вирусов в ядро Windows.

Задачи типа "найти в бинарном коде обращение к HASP-ключу и снять защиту" или "вставить в нужное место в утилите свой злобный код" - принципиально проще: там надо лишь найти нужное место в коде, которое находится автоматически по тривиальному условию, и сделать тривиальную модификацию оригинального кода добавив вызов своего кода, который сам по себе не столь сложен. Но даже такие задачи требуют высокой хакерской квалификации, произвольный Ахмед накурившийся корана не справится.

В программе автономного водителя скорей всего нельзя будет "просто сменить ей приоритеты. Вместо того чтобы объезжать пешеходов, велеть ей их давить." - она скорей всего устроена не так. Там нету "таблицы объектов с приоритетами" которую можно было бы найти в коде и подправить приоритет так что стала бы давить (кстати, даже если б и была, её найти намного сложнее чем в вышеупомянутых задачах, событие обращения к такой таблице никак внешне не проявляется, его в отладчике не отловишь как обращение к HASP-ключу).

Там не таблица, а сложнейший алгоритм, который придётся превращать в другой сложнейший алгоритм, массой нетривиальных изменений, которые надо сделать так чтоб работали в куда более сложном и непредсказуемом мире чем файловая система PC.

Более того, программа автономного водителя может и вообще не иметь изолированного понятия "пешеход". Может она различает "чистую дорогу" от "каких-то препятствий" - если "сменить ей приоритеты" в первый столб въедет.
Или это нейронная сеть неким набором абстрактных арифметических операций преобразующая входную растровую картинку в команды рулю и тормозам - там вообще нечего модификацировать, все её локальные части бессмысленны.

И даже если суметь успешно сделать такую модификацию (что уже очень сомнительно) - получится лишь программа давящая пешеходов случайно попавшихся ей нa дороге, такая не успеет задавить ни 80 ни 8 человек пока полиция её не подобьёт. Для атаки типа Ниццы надо целенаправленно выискивать скопления пешеходов и проводить правильную стратегию охоты за ними - таких пропрограмм в "программе автономного водителя" точно нет, это придётся с нуля разрабатывать, а это задача сравнимая по сложности с "программой автономного водителя".

айфоны так не защищают - айфон и дешевле автомобиля, и такого ущерба не может нанести.
Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.

Date: 2016-07-21 03:16 am (UTC)
From: [identity profile] pargentum.livejournal.com
Чтоб террористы софтвер самолёта или электростанции хакнули, и не просто чтоб оно сломалось, а нечто осмысленно-супер-злое сделало - такого пока не было.
К бортовым компьютерам больших пассажирских самолетов имеет доступ очень ограниченный круг лиц. Автомобилей гораздо больше, и народ вряд ли обрадуется, если у них введут такие же регламенты техобслуживания, как у самолетов (ссылка в тему: https://tech.slashdot.org/story/16/07/19/1415209/farmers-demand-right-to-fix-their-own-dang-tractors?utm_source=rss1.0moreanon&utm_medium=feed)

Date: 2016-07-21 04:55 am (UTC)
From: [identity profile] e2pii1.livejournal.com
Чинить подвинчивая гайки или заменяя сломанные детали может разрешат, а лезть в софтвер и менять его - врядли, для добропорядочного пользователя это незачем и опасно для окружающих, модификации ведь тестировать и верефицировать надо как они себя поведут в разных ситуациях.

Profile

pargentum: (Default)
pargentum

May 2025

S M T W T F S
    123
4 5 6 78 9 10
11 1213 14 15 1617
18 19 20 21 22 23 24
25 26 2728293031

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated May. 28th, 2025 08:17 pm
Powered by Dreamwidth Studios