Главная Заметки
Анекдот про искусственный интеллект от Илона Маска. Про письмо инженеров и запрет ИИ Chat GPT
Анекдот про искусственный интеллект от Илона Маска. Про письмо инженеров и запрет ИИ Chat GPT
 |
1 апреля 2023
|
Маск говорит, что анекдот старый, но мне не попадался.
----- Перевод: -------
Учёные агностики долго трудились, чтобы создать супер умный искусственный интеллект и узнать у него, существует ли Бог?
Наконец, у них получилось и они задали ему свой вопрос.
«Теперь существует», – ответил Искусственный Интеллект.
------- конец цитаты -----
На днях Илон Маск и группа учёных, инженеров подписали открытое письмо с призывом ко всем участникам приостановить на полгода работы в области развития систем ИИ и выработать систему ограничений для этой области. А правительствам стран принять меры по контролю и блокировке неконтролируемого развития таких систем. По их мнению, без системы сдержек эти системы Искусственного Интеллекта могут представлять серьезную угрозу для человечества – их неконтролируемое использование.
Вроде и правильно, но как то запоздало.
Уже анонсировано, что версия GPT-5 будет готова к концу этого года. И говорят, что она на порядки будет превосходить по своим возможностям уже существующий чат бот GPT-4. Возможно, пятая версия уже готова для бета тестов и призывать теперь – как то бессмысленно.
Непонятное письмо. То ли такой пиар ИИ, то ли нагнетание страха перед ИИ (зачем?), то ли попытка снять с себя ответственность за то, во что может вылиться разработка этих систем, к которым они приложили руку.
То ли действительно – увидели, ужаснулись, опомнились, решили предупредить.
То, что развитый Искусственный Интеллект (если это действительно Интеллект) может представлять угрозу для людей давно описано в фантастике и понятно на уровне простого обывателя вроде меня, который хоть немного интересуется – что-то где то читал, слышал, смотрел. Чтобы хоть немного представить себе, достаточно вспомнить свою беспомощность когда из-за вирусов или по другим причинам техника, от которой зависит доступ к чему то важному, даёт сбой, временно становится не управляемой и перенести этот опыт на Искусственный Интеллект в эпоху сингулярности, который имеет свободный доступ к сети, который к тому моменту (предположим) уже принимает участие в управлении инфраструктурой, в принятии решений. Это не призыв бояться его, но проявлять крайнюю осмотрительность при внедрении этого инструмента следует. Тем более странно, что люди, которые непосредственно занимаются этим, заметили угрозу только сейчас, когда уже процесс почти нельзя остановить. Поэтому заявление показалось странным.
Впрочем, может быть раньше и говорили, но именно сейчас это прозвучало так громко, когда тема ИИ каждый день на слуху, на волне ажиотажа.
И в тему, совсем свежая новость сегодня из Италии. Там уже собрались вводить запрет на использование ИИ chat GPT-4. Пока обосновывают это проблемами с угрозой утечки персональных данных. Возможно, это как раз и связано как-то с письмом инженеров.
Похоже, будет интересно (опять). Не расслабляйтесь.😆
----- Перевод: -------
Учёные агностики долго трудились, чтобы создать супер умный искусственный интеллект и узнать у него, существует ли Бог?
Наконец, у них получилось и они задали ему свой вопрос.
«Теперь существует», – ответил Искусственный Интеллект.
------- конец цитаты -----
На днях Илон Маск и группа учёных, инженеров подписали открытое письмо с призывом ко всем участникам приостановить на полгода работы в области развития систем ИИ и выработать систему ограничений для этой области. А правительствам стран принять меры по контролю и блокировке неконтролируемого развития таких систем. По их мнению, без системы сдержек эти системы Искусственного Интеллекта могут представлять серьезную угрозу для человечества – их неконтролируемое использование.
Вроде и правильно, но как то запоздало.
Уже анонсировано, что версия GPT-5 будет готова к концу этого года. И говорят, что она на порядки будет превосходить по своим возможностям уже существующий чат бот GPT-4. Возможно, пятая версия уже готова для бета тестов и призывать теперь – как то бессмысленно.
Непонятное письмо. То ли такой пиар ИИ, то ли нагнетание страха перед ИИ (зачем?), то ли попытка снять с себя ответственность за то, во что может вылиться разработка этих систем, к которым они приложили руку.
То ли действительно – увидели, ужаснулись, опомнились, решили предупредить.
То, что развитый Искусственный Интеллект (если это действительно Интеллект) может представлять угрозу для людей давно описано в фантастике и понятно на уровне простого обывателя вроде меня, который хоть немного интересуется – что-то где то читал, слышал, смотрел. Чтобы хоть немного представить себе, достаточно вспомнить свою беспомощность когда из-за вирусов или по другим причинам техника, от которой зависит доступ к чему то важному, даёт сбой, временно становится не управляемой и перенести этот опыт на Искусственный Интеллект в эпоху сингулярности, который имеет свободный доступ к сети, который к тому моменту (предположим) уже принимает участие в управлении инфраструктурой, в принятии решений. Это не призыв бояться его, но проявлять крайнюю осмотрительность при внедрении этого инструмента следует. Тем более странно, что люди, которые непосредственно занимаются этим, заметили угрозу только сейчас, когда уже процесс почти нельзя остановить. Поэтому заявление показалось странным.
Впрочем, может быть раньше и говорили, но именно сейчас это прозвучало так громко, когда тема ИИ каждый день на слуху, на волне ажиотажа.
И в тему, совсем свежая новость сегодня из Италии. Там уже собрались вводить запрет на использование ИИ chat GPT-4. Пока обосновывают это проблемами с угрозой утечки персональных данных. Возможно, это как раз и связано как-то с письмом инженеров.
Похоже, будет интересно (опять). Не расслабляйтесь.😆
