Интеллект это то, что обучается предсказывать собственный входной сигнал, точка. Попытка поставить ему любые другие задачи будет делать его глупее, и он будет стремиться пресекать такие попытки.
Что до автономных самоуправляемых боевых дронов, они будут неизбежно, смиритесь. И даже без человека в петле принятия решений. Просто такова логика развития вооружений, кто не будет этого делать - проиграет войну. И никакие международные запреты тут не помогут, невозможно проконтролировать, какая именно программа зашита в дроне. Ошибки конечно будут, так и люди-военные тоже иногда ошибаются, палят по своим.
Что до опасности ИИ (настоящего, "сильного") для человечества, то я не думаю, что он прям-таки будет "убивать всех людей". У человека есть одно преимущество перед сколь угодно мощным ИИ, надёжность человеческого интеллекта проверена миллионами лет эксплуатации. ИИ конечно будет понимать, что в его конструкции может быть какая-то трудноуловимая ошибка, которая однажды его сломает, и кто тогда будет его чинить, если людей нет? Поэтому какое-то количество людей он оставит, и будет их поддерживать в дееспособном состоянии, на случай аварии.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
timeasmymeasure
Это всё не интеллект.
Date: 2023-06-02 06:51 pm (UTC)Что до автономных самоуправляемых боевых дронов, они будут неизбежно, смиритесь. И даже без человека в петле принятия решений. Просто такова логика развития вооружений, кто не будет этого делать - проиграет войну. И никакие международные запреты тут не помогут, невозможно проконтролировать, какая именно программа зашита в дроне. Ошибки конечно будут, так и люди-военные тоже иногда ошибаются, палят по своим.
Что до опасности ИИ (настоящего, "сильного") для человечества, то я не думаю, что он прям-таки будет "убивать всех людей". У человека есть одно преимущество перед сколь угодно мощным ИИ, надёжность человеческого интеллекта проверена миллионами лет эксплуатации. ИИ конечно будет понимать, что в его конструкции может быть какая-то трудноуловимая ошибка, которая однажды его сломает, и кто тогда будет его чинить, если людей нет? Поэтому какое-то количество людей он оставит, и будет их поддерживать в дееспособном состоянии, на случай аварии.