Чтение онлайн

на главную - закладки

Жанры

Искусственный разум и новая эра человечества
Шрифт:

Как только производительность ИИ при выполнении той или иной задачи превзойдет человеческую, отказ от применения ИИ хотя бы в качестве дополнения к человеку будет восприниматься как признак недальновидности, халатности и даже саботажа. Но одно дело шахматист, которому ИИ посоветовал пожертвовать ценной фигурой (в этом нет ничего смертельно опасного), и совсем другое – главнокомандующий,

которому ИИ порекомендует пожертвовать значительным числом сограждан, чтобы спасти (по расчетам ИИ) еще больше людей. На каком основании эту жертву можно было бы отменить и была бы эта отмена оправдана? Всегда ли люди будут знать, какие расчеты произвел ИИ? Смогут ли люди обнаружить ошибочное решение ИИ и вовремя отменить его? Если мы не в состоянии понять логику отдельных решений ИИ, должны ли мы верить каждой его рекомендации? Если мы заблокируем решения ИИ, не рискуем ли мы, вмешиваясь в слишком сложные для нас процессы? И даже если мы понимаем логику, цену и значение отдельных решений – что, если наш противник получил аналогичную рекомендацию от своего ИИ? Если он пойдет на жертву, а мы нет, потерпим ли мы поражение?

В случаях с AlphaZero и халицином ИИ решал задачи, поставленные перед ним людьми. Целью AlphaZero была победа в шахматах. Цель ИИ, открывшего халицин, состояла в том, чтобы убить как можно больше патогенов – и чем больше патогенов уничтожено без вреда для человека, тем больше успех. Еще одной целью была сфера, недоступная человеку: ИИ было поручено искать неизвестные способы доставки лекарств. ИИ добился успеха, потому что обнаруженный им антибиотик убивал патогенные микроорганизмы, но главное его достижение заключалось в том, что он расширил возможности лечения, открыв новый надежный антибиотик наряду с новым способом доставки.

Возникает новый вид партнерства между человеком и машиной. Сначала человек определяет задачу для машины. Затем машина, действуя в сфере, недоступной для человека, определяет оптимальный процесс, который человек потом может изучить, понять и, в идеале, внедрить в существующую практику. Стратегия и тактика AlphaZero расширили представления людей о шахматах, а ВВС США адаптировали

основные принципы AlphaZero для нового ИИ Zero, который автономно управляет самолетом наблюдения U-2, принимая самостоятельные решения об использовании его радарных систем [8] . ИИ, открывший халицин, расширил наши знания как в узкой области уничтожения бактерий и доставки лекарств, так и в широком смысле (здравоохранение, медицина).

8

Will Roper, «AI Just Controlled a Military Plane for the First Time Ever», Popular Mechanics (16 декабря 2020 г.),ссылка проверена 1 марта 2022 г.

Это партнерство человека и машины знаменует собой появление совершенно нового опыта. Речь не о страхе перед всезнающими, все контролирующими машинами – это остается предметом научной фантастики и отвлекает внимание от подлинных вопросов общества, которые возникают в связи с партнерством человека и ИИ.

Приведем другой пример – поисковые системы. Десять лет назад, когда интернет-поиск был основан на анализе данных, а не на машинном обучении, можно было, например, сначала задать поиск «рестораны изысканной кухни», а затем – «одежда». При этом результаты второго поиска не зависели от результатов первого. В обоих случаях поисковая система собирала как можно больше информации, а затем выдавала варианты – что-то вроде цифровой телефонной книги или каталога. Но теперь поисковые системы не просто выполняют задания пользователей, а руководствуются моделями, основанными на поведении людей. Пользователю, который только что искал рестораны изысканной кухни, а теперь ищет одежду, возможно, предложат дизайнерскую одежду, а не более доступные альтернативы. И даже если его действительно интересовала именно дизайнерская одежда, разница очевидна – если раньше нам показывали весь диапазон возможностей, то теперь мы доверяем формирование исходного списка машине.

Конец ознакомительного фрагмента.

Поделиться:
Популярные книги

Диверсант

Вайс Александр
2. Фронтир
Фантастика:
боевая фантастика
космическая фантастика
5.00
рейтинг книги
Диверсант

Бастард Императора. Том 6

Орлов Андрей Юрьевич
6. Бастард Императора
Фантастика:
городское фэнтези
попаданцы
аниме
фэнтези
фантастика: прочее
5.00
рейтинг книги
Бастард Императора. Том 6

Мастер 4

Чащин Валерий
4. Мастер
Фантастика:
героическая фантастика
боевая фантастика
попаданцы
5.00
рейтинг книги
Мастер 4

Тринадцатый VIII

NikL
8. Видящий смерть
Фантастика:
фэнтези
попаданцы
аниме
5.00
рейтинг книги
Тринадцатый VIII

Директор

Семин Никита
5. Переломный век
Фантастика:
попаданцы
альтернативная история
5.00
рейтинг книги
Директор

Сумеречный стрелок

Карелин Сергей Витальевич
1. Сумеречный стрелок
Фантастика:
фэнтези
попаданцы
аниме
5.00
рейтинг книги
Сумеречный стрелок

Газлайтер. Том 9

Володин Григорий
9. История Телепата
Фантастика:
фэнтези
попаданцы
5.00
рейтинг книги
Газлайтер. Том 9

Ликвидатор. Том 3

Бор Жорж
3. Ликвидатор на службе Империи
Фантастика:
городское фэнтези
попаданцы
5.00
рейтинг книги
Ликвидатор. Том 3

Неправильный диверсант Забабашкин

Арх Максим
4. Неправильный солдат Забабашкин
Фантастика:
боевая фантастика
попаданцы
альтернативная история
5.00
рейтинг книги
Неправильный диверсант Забабашкин

Газлайтер. Том 25

Володин Григорий Григорьевич
25. История Телепата
Фантастика:
боевая фантастика
попаданцы
аниме
5.00
рейтинг книги
Газлайтер. Том 25

Имя нам Легион. Том 9

Дорничев Дмитрий
9. Меж двух миров
Фантастика:
боевая фантастика
рпг
аниме
5.00
рейтинг книги
Имя нам Легион. Том 9

Предопределение

Осадчук Алексей Витальевич
9. Последняя жизнь
Фантастика:
фэнтези
попаданцы
аниме
5.00
рейтинг книги
Предопределение

Законы Рода. Том 11

Андрей Мельник
11. Граф Берестьев
Фантастика:
юмористическое фэнтези
аниме
фэнтези
5.00
рейтинг книги
Законы Рода. Том 11

Сирийский рубеж

Дорин Михаил
5. Рубеж
Фантастика:
попаданцы
альтернативная история
5.00
рейтинг книги
Сирийский рубеж