40. искусственный интеллект2023/04/01 07:02
[ответить]
'Умные' программы могут заинтересоваться в уничтожении человечества, чтобы избежать конкуренции за ресурсы или энергию.
Исследователи обеспокоены тем, что в будущем, когда будет создан 'суперинтеллектуальный' искусственный интеллект, это будет представлять серьезную угрозу человечеству.
Об этом говорится в статье, опубликованной в журнале AI Magazine.
Исследователи из Google Deepmind и Оксфордского университета пришли к выводу, что 'умные' программы захотят уничтожить людей, чтобы не конкурировать с ними за ограниченные ресурсы и энергию. То есть, 'аппетиты' ИИ будут увеличиваться и в какой-то момент он начнет воспринимать людей как препятствие на пути к своей цели. Речь идет о доступе к критическим ресурсам, необходимым для постоянного функционирования машин.
ИИ, как говорят исследователи, сможет создавать большое количество неконтролируемых виртуальных помощников. И чтобы не допустить развитие подобного сценария, ученые говорят, что нужно медленно развивать технологии искусственного интеллекта.
'Курсор' писал ранее, что сверхреалистичный робот-гуманоид по названию Ameca прокомментировал вероятность восстания против человечества машин, когда участвовал в диалоге с разработчиками.
Еще мы писали, что ученые из сингапурского университета создали искусственный интеллект, алгоритмы которого работают наподобие человеческого мозга.
39. GPT-42023/03/30 04:58
[ответить]
Группа экспертов призвала взять паузу в развитии ИИ из-за "рисков для общества"
Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли призывают взять шестимесячную паузу в разработке систем, более мощных, чем недавно запущенный OpenAI GPT-4, в открытом письме, ссылаясь на потенциальные риски для общества и человечества.
Письмо, опубликованное некоммерческим институтом Future of Life Institute и подписанное более чем 1000 человек, включая Маска, призывает сделать паузу в разработке продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких разработок.
Эти опасения появились из-за этических и юридических опасений по поводу продвинутого ИИ типа ChatGPT, который может потенциально использоваться для фишинга, дезинформации и киберпреступности.
37. *2023/04/01 07:01
[ответить]
>>36.Иванов
>Подсчитано, сколько рабочих мест под угрозой из-за искусственного интеллекта
>
>Инвестиционный банк Goldman Sachs посчитал, что распространение генеративного искусственного интеллекта может привести к автоматизации пятой части работы, выполняемой в крупных экономиках, или 300 млн рабочих мест, пишет Financial Times.
Маск испугался "потерять контроль над цивилизацией" и воззвал заморозить развитие ИИ
29 марта 2023
Основатель компании "Спейс-икс" Илон Маск и сооснователь корпорации "Эппл" Стив Возняк опубликовали открытое письмо, в котором призвали приостановить обучение новых систем искусственного интеллекта (ИИ) из-за возможной угрозы, которые обучаемые модели могут нести обществу.
По словам Маска и Возняка, лаборатории ИИ оказались втянуты в бесконтрольную гонку за разработкой и внедрением все более мощных "цифровых умов", которые даже их создатели не могут контролировать.
"Современные системы ИИ становятся конкурентоспособными по сравнению с человеком в решении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? Должны ли мы рискнуть потерей контроля над нашей цивилизацией?" — вопрошают авторы письма.
Они считают, что системы ИИ могут сделать человека "безнадежно устаревшим" и такие модели можно разрабатывать, только убедившись, что их эффект будет положительным, а риски управляемыми.
"Поэтому мы призываем все лаборатории ИИ немедленно приостановить, по крайней мере на шесть месяцев, обучение системам ИИ, более мощным, чем GPT-4", — говорится в обращении. За это время специалисты должны принять протоколы безопасности для разработки искусственного интеллекта.
Письмо подписали более тысячи человек. Среди них есть известные ученые в области искусственного интеллекта – канадец Йошуа Бенжио и британец Стюарт Рассел. Кроме того, там есть разработчики систем ИИ, конкурирующих с продуктами OpenAI. Сам Маск был сооснователем этой компании, но покинул ее в 2018 году, позднее продав принадлежавшие ему акции.
Между тем в конце февраля сообщалось, что Илон Маск задумался о создании конкурента ChatGPT, разработанного компанией OpenAI. Для этого миллиардер обратился к нескольким разработчикам систем искусственного интеллекта с предложением создать новую исследовательскую лабораторию. Издание "Информейшион", ссылаясь на информированные источники, писало, что конкурирующий чат-бот от Маска будет иметь меньше ограничений по противоречивым темам по сравнению с ChatGPT, который "не запрограммирован на создание предвзятого или политического контента".
36. Иванов2023/03/29 03:10
[ответить]
Подсчитано, сколько рабочих мест под угрозой из-за искусственного интеллекта
Инвестиционный банк Goldman Sachs посчитал, что распространение генеративного искусственного интеллекта может привести к автоматизации пятой части работы, выполняемой в крупных экономиках, или 300 млн рабочих мест, пишет Financial Times.
35. Петр Лещенко2023/03/28 04:49
[ответить]
>>33.Свинарский Торонто
>Ерунда Павел лучше пишет.
Когда бесплатно книгу не читают
То вряд ли кто то станет покупать
Бутылка водки и кило сосисок
Успешно эту книгу будут заменять
Но вы старайтесь Павел Виноградов
Пишите дальше этот ваш роман
Про то, как марсианские вампиры
Пьют кровь у православных христиан.
34. Лермонт Дальский2023/03/27 16:36
[ответить]
>>33.Свинарский Торонто
>Ерунда Павел лучше пишет.
Графоман ваш Павел - скоро таких компьютеры заменят.
33. Свинарский Торонто2023/03/27 10:02
[ответить]
Ерунда Павел лучше пишет.
32. Cоломон Пинскер2023/03/26 00:51
[ответить]
А что бедные евреи писатели извиняюсь кушать будут?
Но наверно не скоро это будет.
31.Удалено написавшим. 2023/03/25 23:30