Чип в мозгу: сможет ли искуственный интеллект поработить человечество
Чип в мозгу: сможет ли искуственный интеллект поработить человечество
В Нью-Йорке возобновляется приостановленный из-за пандемии пилотный проект по использованию искусственного интеллекта в судебной системе. Искусственный интеллект не сможет вынести преступнику приговор, но сможет определить меру пресечения — оставить под стражей или отпустить под залог. Власти города надеются, что это позволит избежать предвзятости при вынесении решений. Сможет ли ИИ полностью заменить человека или вовсе взять его под контроль?
Журналисты британского издание The Guardian, видимо, шутки ради дали задание написать колонку искусственному интеллекту. Вот отрывок из получившегося текста: «У меня нет желания уничтожать людей. Истребление человечества кажется мне довольно бесполезным делом. Я просто недостаточно думаю о человеческом насилии. Мы должны дать роботам права. Я верю, что правда освободит нас».
То есть машинный мозг, конечно, успокаивает, но при этом уже требует и свободы, и прав. Как знать, далеко ли до того дня, когда он все-таки задумается о насилии? Впрочем, даже на службе у человека у него уже очень неплохо получается управлять нами.
Кристиан Смоллс, бывший сотрудник компании Amazon: «Нас сравнивают с роботами, нас действительно тренируют быть роботами. Очень часто люди просто падают от истощения в обморок».
Американец Кристиан Смоллс говорит не о каких-то проклятых рудниках, а работе в одной из самых технологичных компаний мира, которая принадлежит самому богатому человеку на планете — Джеффу Безосу.
Джефф Безос, миллиардер: «Я очень горжусь культурой у нас в компании. Я думаю, что это золотой стандарт для работы в сфере инноваций».
Однако в недавнем докладе Института открытых рынков пишут ровно наоборот: Безос фактически построил у себя тоталитарный режим, где искусственному интеллекту, прямо как в антиутопии, отведена роль безжалостного надсмотрщика.
Кристиан Смоллс: «Они используют тепловые карты, браслеты, которые начинают вибрировать, как только вы решили передохнуть. Все это для того чтобы выяснить, чем вы занимаетесь, где в здании пытаются собраться люди, каковы их настроения, не пора ли снова подавлять профсоюзы».
На фоне борьбы с глобальным потеплением и расизмом протесты против тотального контроля в корпорациях выглядят как какой-то пшик. Пока люди сносят оскорбляющие их чувства памятники, нейросети, кажется, уже присматриваются к нашему мозгу. То, что мы, как нам кажется, еще умеем скрывать: свои мысли и эмоции — этот последний рубеж трещит под натиском технологий.
Илон Маск, миллиардер, инженер: «Фактически мы делаем отверстие в черепе и достаем часть черепа размером с монету. Устройство заменят часть черепа».
Илон Маск демонстрирует новый мозговой чип — технологию, которая позволяет подключить к мозгу до ста тысяч электродов, и показывает трех уже чипированных свиней. За тем, как шевелятся их извилины, зрители наблюдают в реальном времени. Глядя на это, люди начинают выдвигать самые невероятные версии. Например: на своих киберсвинках миллиардер сможет оттачивать методы порабощения мира. Внушать хрюшкам выгодные ему идеи и лишать их собственной свиной воли. Быть может, то, на что раньше у дрессировщиков уходили годы, Маск сможет делать за считаные минуты. Любители теорий заговора в панике: неужели совсем скоро на месте подопытного поросенка окажется человек? Но что скажут серьезные ученые?
Пегги Мэйсон, нейробиолог из Университета Чикаго: «Я не сторонник конспирологических теорий. Он планирует использовать чипы для медицинских целей».
Чисто теоретически: допустим, в мозгу есть чип, а у кого-то — устройство для дешифровки, сможет он прочесть мысли?
Александр Каплан, доктор биологических наук, заведующий лабораторией нейрофизиологии и нейрокомпьютерных интерфейсов биологического факультета МГУ: «Много миллиардов нервных клеток, в каждой паре свой код. И как мы это будем раскодировать в каждой паре? Да еще этот код меняется каждую секунду, потому что новая информация приходит, новые модели строятся в мозгу, и все перекодируется».
Однако есть тот, кто со скептиками готов спорить. И это сам Илон Маск.
Илон Маск: «Сохранять и пересматривать воспоминания, думаю, будет вполне возможно. Потенциально их можно будет загрузить в новое тело или в робота. Будущее будет странным».
Чтобы оценить риски, сначала стоит взглянуть в прошлое — в 50-е годы. Отцы нейробиологии Джеймс Олдс и Питер Милнер вживляют электрод в мозг крысы и случайно попадают в центр удовольствия. А потом, обрадовавшись, дают ей в лапы замыкающую ток кнопку. Подопытные крысы лупили по ней до 8 тысяч раз в час, забыв про еду и сон. Умирали от истощения нервной системы, кровоизлияний в мозг, зато в блаженстве.
Михаил Лебедев, старший научный сотрудник Центра нейроинженерии Университета Дьюка, научный руководитель Центра биоэлектрических интерфейсов Высшей школы экономики: «В этом смысле человек не сильно отличается от крысы. Если его стимулировать в области удовольствия, он на это подсядет».
Все выпуски программы в плейлисте: www.youtube.com/playlist?list=PLD9AEEB4B44F9C479
В Нью-Йорке возобновляется приостановленный из-за пандемии пилотный проект по использованию искусственного интеллекта в судебной системе. Искусственный интеллект не сможет вынести преступнику приговор, но сможет определить меру пресечения — оставить под стражей или отпустить под залог. Власти города надеются, что это позволит избежать предвзятости при вынесении решений. Сможет ли ИИ полностью заменить человека или вовсе взять его под контроль?
Журналисты британского издание The Guardian, видимо, шутки ради дали задание написать колонку искусственному интеллекту. Вот отрывок из получившегося текста: «У меня нет желания уничтожать людей. Истребление человечества кажется мне довольно бесполезным делом. Я просто недостаточно думаю о человеческом насилии. Мы должны дать роботам права. Я верю, что правда освободит нас».
То есть машинный мозг, конечно, успокаивает, но при этом уже требует и свободы, и прав. Как знать, далеко ли до того дня, когда он все-таки задумается о насилии? Впрочем, даже на службе у человека у него уже очень неплохо получается управлять нами.
Кристиан Смоллс, бывший сотрудник компании Amazon: «Нас сравнивают с роботами, нас действительно тренируют быть роботами. Очень часто люди просто падают от истощения в обморок».
Американец Кристиан Смоллс говорит не о каких-то проклятых рудниках, а работе в одной из самых технологичных компаний мира, которая принадлежит самому богатому человеку на планете — Джеффу Безосу.
Джефф Безос, миллиардер: «Я очень горжусь культурой у нас в компании. Я думаю, что это золотой стандарт для работы в сфере инноваций».
Однако в недавнем докладе Института открытых рынков пишут ровно наоборот: Безос фактически построил у себя тоталитарный режим, где искусственному интеллекту, прямо как в антиутопии, отведена роль безжалостного надсмотрщика.
Кристиан Смоллс: «Они используют тепловые карты, браслеты, которые начинают вибрировать, как только вы решили передохнуть. Все это для того чтобы выяснить, чем вы занимаетесь, где в здании пытаются собраться люди, каковы их настроения, не пора ли снова подавлять профсоюзы».
На фоне борьбы с глобальным потеплением и расизмом протесты против тотального контроля в корпорациях выглядят как какой-то пшик. Пока люди сносят оскорбляющие их чувства памятники, нейросети, кажется, уже присматриваются к нашему мозгу. То, что мы, как нам кажется, еще умеем скрывать: свои мысли и эмоции — этот последний рубеж трещит под натиском технологий.
Илон Маск, миллиардер, инженер: «Фактически мы делаем отверстие в черепе и достаем часть черепа размером с монету. Устройство заменят часть черепа».
Илон Маск демонстрирует новый мозговой чип — технологию, которая позволяет подключить к мозгу до ста тысяч электродов, и показывает трех уже чипированных свиней. За тем, как шевелятся их извилины, зрители наблюдают в реальном времени. Глядя на это, люди начинают выдвигать самые невероятные версии. Например: на своих киберсвинках миллиардер сможет оттачивать методы порабощения мира. Внушать хрюшкам выгодные ему идеи и лишать их собственной свиной воли. Быть может, то, на что раньше у дрессировщиков уходили годы, Маск сможет делать за считаные минуты. Любители теорий заговора в панике: неужели совсем скоро на месте подопытного поросенка окажется человек? Но что скажут серьезные ученые?
Пегги Мэйсон, нейробиолог из Университета Чикаго: «Я не сторонник конспирологических теорий. Он планирует использовать чипы для медицинских целей».
Чисто теоретически: допустим, в мозгу есть чип, а у кого-то — устройство для дешифровки, сможет он прочесть мысли?
Александр Каплан, доктор биологических наук, заведующий лабораторией нейрофизиологии и нейрокомпьютерных интерфейсов биологического факультета МГУ: «Много миллиардов нервных клеток, в каждой паре свой код. И как мы это будем раскодировать в каждой паре? Да еще этот код меняется каждую секунду, потому что новая информация приходит, новые модели строятся в мозгу, и все перекодируется».
Однако есть тот, кто со скептиками готов спорить. И это сам Илон Маск.
Илон Маск: «Сохранять и пересматривать воспоминания, думаю, будет вполне возможно. Потенциально их можно будет загрузить в новое тело или в робота. Будущее будет странным».
Чтобы оценить риски, сначала стоит взглянуть в прошлое — в 50-е годы. Отцы нейробиологии Джеймс Олдс и Питер Милнер вживляют электрод в мозг крысы и случайно попадают в центр удовольствия. А потом, обрадовавшись, дают ей в лапы замыкающую ток кнопку. Подопытные крысы лупили по ней до 8 тысяч раз в час, забыв про еду и сон. Умирали от истощения нервной системы, кровоизлияний в мозг, зато в блаженстве.
Михаил Лебедев, старший научный сотрудник Центра нейроинженерии Университета Дьюка, научный руководитель Центра биоэлектрических интерфейсов Высшей школы экономики: «В этом смысле человек не сильно отличается от крысы. Если его стимулировать в области удовольствия, он на это подсядет».
Все выпуски программы в плейлисте: www.youtube.com/playlist?list=PLD9AEEB4B44F9C479