Предсказания искусственного интеллекта о коронавирусе

Американские и китайские ученые объявили о возможности предсказать развитие болезни у зараженных коронавирусом при помощи искусственного интеллекта. Разработанный ими алгоритм позволит определить, какие осложнения могут возникнуть у самых тяжелобольных пациентов. Тем временем в Италии проанализировали статистку смертности, чтобы выявить, какими хроническими заболеваниями страдали умершие от коронавируса.

Как объясняет одна из авторов проекта, профессор медицинского факультета университета Нью-Йорка Меган Коффи, искусственный интеллект укажет врачам, каких пациентов нужно лечить в первую очередь, так как во многих затронутых эпидемией странах больницы уже переполнены.

Разработанная программа определяет, у каких пациентов наибольшая вероятность развить острую дыхательную недостаточность, когда в их легких скапливается жидкость. В этом случае, по статистике, около 50% пациентов гибнет. Как известно, острая легочная недостаточность является одним из самых распространенных осложнений при коронавирусе.

Алгоритм разрабатывался на анализе данных 53 пациентов в двух больницах Вэньчжоу в Китае. Он позволил определить, что на возникновение этого осложнения влияют три фактора: изменение количества содержащегося в печени фермента аланинаминотрансфераза, гемоглобина в крови и жалобы пациента на боли. Вместе с другими факторами алгоритм позволяет предсказать возможность осложнений с 80-процентной точностью.

Самые частые симптомы коронавируса, такие как сильная температура или затемнение легких на рентгеновским снимке, а также слишком резкая иммунная реакция организма на присутствие вируса, не позволили ученым предсказать возможность развития острой легочной недостаточности. Отметим, что последний признак рассматривается французскими медиками как одна из основных причин смертности от последствий Covid-19.

Пол и возраст пациентов также не оказались определяющими факторами при исследовании. Как отмечают американские ученые, их исследование касалось только пациентов, первоначально представляющих самые легкие признаки коронавируса, состояние которых затем резко ухудшилось.

Ранее разработанный этой группой американских ученых алгоритм позволил определить возможность возникновения рака кожи у пациентов, находящихся в группе риска.

Искусственный интеллект уже позволил предсказать развитие эпидемии коронавируса в мире. В декабре канадский стартап BlueDot, используя искусственный интеллект, предсказал развитие эпидемии коронавируса в Ухане, на десять дней раньше Всемирной организации здравоохранения. Эта расположенная в Торонто компания с 2014 года занимается разработкой алгоритмов, позволяющих предсказывать распространение вирусов на планете.

Итальянские ученые проанализировали статистку смертности от коронавируса

Институт здравоохранения Италии (Istituto Superiore di Sanità) опубликовал данные, согласно которым более половины скончавшихся от последствий Covid-19 пациентов (50,7%) имели как минимум три хронических заболевания и более четверти (25,7%) — как минимум два хронических заболевания. Анализ данных проводился на основе историй болезней 6801 пациентов, скончавшихся от Covid-19.

Наиболее часто встречающейся патологией, влияющей на тяжелое течение коронавируса у пациентов, названо повышенное артериальное давление. Этот осложняющий фактор встречался у трех четвертей скончавшихся пациентов (73% от общего числа обследованных).

Диабет также входит в факторы риска при заражении коронавирусом. Как показывает исследование, им страдало 31,3% скончавшихся пациентов.

Различные патологии сердца также влияют на возможность осложнений у больных Covid-19. В 27% смертельных случаев люди страдали ишемической болезнью сердца (нарушением кровоснабжения среднего мышечного слоя сердца, которое часто бывает вызвано поражениями коронарных артерий). В 23,7% случаев у пациентов встречалась мерцательная аритмия (нарушение сердечного ритма) и в 17,1% случаев — сердечная недостаточность.

Кроме этого, в исследовании итальянских ученых фигурирует хроническая почечная недостаточность, от которой страдало 22,2% скончавшихся от коронавируса пациентов. 17,3% пациентов перенесли рак за последние пять лет.

Средний возраст пациентов, чьи истории болезней были проанализированы, составляет 78 лет, большинство из них — мужчины.

Ученые также проанализировали первые симптомы болезни, которые появились у пациентов до госпитализации: высокая температура (75%), затруднение дыхания (71%), сухой кашель (40%). После госпитализации у подавляющего большинства из них (96,4%) появилась острая легочная недостаточность, в более редких случаях — острая почечная недостаточность (24,7%).

В заключении авторы исследования отмечают, что между появлением первых симптомов болезни и летальным исходом проходит, в среднем, девять дней. В больнице пациенты проводили около пяти дней. При этом итальянские медики отмечают, что если пациент сразу попадает в реанимацию, он там проводит, в среднем, две недели.

Эти данные практически аналогичны тем, которые были отмечены китайскими учеными во время эпидемии в Ухане. Поэтому с момента появления коронавируса в Европе медики внесли пациентов, страдающих от повышенного давления, сердечных заболеваний и диабета в группу риска. Во Франции ученые пока не публиковали анализ статистики смертности, однако клинические наблюдения дают схожую картину.

В исследовании итальянских ученых фигурируют только пожилые пациенты. Тем временем в Европе появляются необъяснимые случаи смерти молодых пациентов, не имеющих никаких патологий.

РассылкаПолучайте новости в реальном времени с помощью уведомлений RFI

DeepMind, подразделение Google, занимающееся искусственным интеллектом (ИИ), присоединилось к глобальному исследовательскому сообществу, изучающему новый коронавирус COVID-19.

DeepMind наиболее известен благодаря ИИ, который с легкостью одержал победу над лучшими в мире игроками в Го и StarCraft II. В настоящее время исследовательская лаборатория применяет свою систему для помощи исследователям в борьбе с эпидемией.

Чтобы изучить вирус и разработать вакцину, ученые должны сначала понять, как она функционирует, а именно — структуру вирусных белков. Это длительный процесс, который занимает месяцы и может не всегда давать результаты. Ученые обратились к компьютерным прогнозам с помощью системы глубокого обучения, известной под названием AlphaFold.

Работа над коронавирусом ведется в лабораториях по всему миру. DeepMind надеется помочь этим исследованиям, "выпустив структурные предсказания нескольких малоизученных белков, связанных с SARS-CoV-2, вирусом, вызывающим COVID-19". В системе используется метод машинного обучения без моделирования среды, с помощью которого можно предсказывать белковые структуры при отсутствии аналогичных структур белка.

Сотрудники DeepMind надеются сэкономить ученым месяцы, которые обычно тратятся для определения белковой структуры вируса. "Знание структуры белка предоставляет важный ресурс для понимания того, как он функционирует, но эксперименты по определению структуры могут занять месяцы и более", — говорится в официальном блоге компании.

Учитывая "потенциальную серьезность и временные рамки", компания DeepMind заявила, что собирается пропустить процесс экспериментальной проверки результатов или ждет их рецензирования академическим сообществом перед публикацией. Это соответствует и другим научным исследованиям по теме, которые появляются как в рецензируемых журналах, так и в препринтах без рецензирования, так как этот процесс может занять месяцы.

"Мы подчеркиваем, что эти предсказания структуры не были экспериментально проверены, но надеемся, что они могут внести вклад в работу научного сообщества по теме того, как функционирует вирус, и послужить платформой для генерации гипотез для будущих экспериментальных работ по разработке терапевтических средств", — сказано в посте блога.

Команда отмечает, что предоставленные данные "не являются основным направлением текущей терапевтической деятельности", но могут помочь общему пониманию. "Важно отметить, что наша система прогнозирования структуры все еще находится в разработке, и мы не можем быть уверены в точности структур, которые мы предоставляем, хотя мы уверены, что система более точна, чем наша предыдущая система CASP13. Мы подтвердили, что наша система предоставляет точный прогноз для экспериментально определенной структуры SARS-CoV-2, хранящейся в Protein Data Bank, и это дало нам уверенность в том, что наши модельные прогнозы по другим белкам могут быть полезны", — заявляют исследователи.

Открытая лицензия позволит любому исследователю развивать, адаптировать или делиться результатами исследований DeepMind. Компания Google приобрела лондонскую исследовательскую организацию DeepMind за 400 миллионов фунтов стерлингов еще в 2014 году. Ранее компания использовала ИИ для исследований в области здравоохранения, разработки моделей для идентификации глазных заболеваний и выявления рака шеи.

Alibaba также занимается исследованиями коронавируса. Так, исследователи из китайской корпорации объявили о разработке алгоритма машинного обучения, позволяющего с точностью в 96% выявить воспаление легких, вызываемое новым коронавирусом COVID-19, отличив его от воспалений иной природы. Как передает Nikkei Asian Review, для анализа потребуется сделать компьютерную томографию груди пациента. Проанализировав снимок в течение 20 секунд, система выдает ответ — врачу для этого потребовались бы многочисленные изображения и не менее 15 минут времени.

Алгоритм натренировали на 5 тысячах изображений легких пациентов с подтвержденной коронавирусной инфекцией и уже используют как минимум в 100 больницах по всему Китаю.

Об авторе: Юрий Бондарь, заместитель генерального директора SAP CIS.

В конце декабря канадская платформа мониторинга здоровья на основе искусственного интеллекта BlueDot предсказала вспышку коронавируса в Китае. Она сообщила своим клиентам о новой инфекции на неделю раньше, чем это сделала ВОЗ. Платформа проанализировала новости на разных языках, сводки о заболеваниях среди животных и информацию из соцсетей. Затем она сопоставила полученную информацию с базами данных разных авиакомпаний, чтобы предсказать, куда быстрее всего доберется вирус.

Может показаться, что искусственный интеллект самостоятельно отыскал все первые подозрительные новости о новой инфекции и пришел к выводу, что это коронавирус. Но так ли это? Рассказываем, способен ли алгоритм без вмешательства человека узнать об эпидемии, и как вообще работают подобные системы.

Искусственный интеллект может предсказать вспышки заболеваемости и распространение вируса. Но первое, с чего нужно начинать исследование — это постановка задачи.

Например, можно пытаться предсказать возникновение эпидемии до того, как вирус не начал мутировать у животных и заражать людей. Либо это может быть задача спрогнозировать распространение эпидемии, если она уже диагностирована. Тогда для построения модели необходима более детальная информация о самом вирусе: насколько он агрессивен, R0 (предположительное количество людей, которые могут заразиться после контакта с инфицированным пациентом), инкубационный период и т.д. Используя всю информацию и подключив источники данных, с помощью методов искусственного интеллекта можно построить прогнозную модель.

Как работает алгоритм, который используется для выявления эпидемий?

Для выявления эпидемий можно использовать модель с применением технологии искусственного интеллекта. Для того, чтобы сделать анализ по запросу (допустим, это будет анализ заболеваемости гриппом в городе N), необходимо на уже имеющуюся информацию о гриппе (насколько он агрессивен, какой у него инкубационный период, как быстро он распространяется среди людей) наложить данные из различных источников. Таких источников может быть несколько:

Социальные сети, где люди делятся информацией о том, что происходит вокруг них : школы находятся на карантине, закрыли детский сад, распроданы все маски, нет парацетамола в аптеке, вся семья заболела и сидит дома.

СМИ региона, где проводится анализ : как правило они дают информацию на языке этого региона или страны. Тут очень важен правильный перевод, трактовка терминов и знание контекста новости.

Общая информация о том месте, где проводится анализ : географическая справка, население, транспортная доступность, климат и т.д.

Меры, которые принимаются государством : введен ли режим удаленной работы, есть ли рекомендации не собираться большими группами, введен ли комендантский час, отменены ли мероприятия, закрыты ли границы на въезд и выезд и т.д.

Перед тем как начать исследование, данные делятся на две части.

Первая будет использоваться для анализа — это обучающая выборка. Вторая понадобится для тестирования уже полученных моделей — это контрольная выборка. В системах для предиктивного анализа содержится большое количество уже установленных алгоритмов. Они начинают анализировать данные и строить прогнозные модели. Когда модель построена, ее необходимо дообучить и протестировать с помощью второй части собранной ранее информации. Затем полученный результат сравнивают с теми данными, что были изначально известны, и если они на 90—95% совпадают, то такая модель считается валидной и ее можно использовать для получения достоверных прогнозов.

Одним из примеров здесь может быть проект SAP Health. Он представляет из себя обширный банк данных, в котором содержится информация по различным видам мутировавших генов в результате онкологических и других заболеваний. Система взаимодействует с большим числом американских клиник, в нее загружаются результаты биопсий, лабораторных исследований, схемы лечений и т.д. Все данные используются для построения прогнозов развития заболеваний, создания схем лечения и других запросов.

Еще один пример: допустим, уже есть интерактивная карта заболеваемости по региону — то есть сколько людей в каких городах уже заразилось. Эта карта будет отправной точкой. На нее накладывают слой с новыми данными (какие потоки перемещения пассажиров происходят внутри региона, между регионами или даже странами, какие меры уже ввело региональное правительство), и система построит прогноз по динамике распространения вируса в ближайшее время.

Насколько можно доверять ИИ?

Безусловно, для любой отрасли при создании прогноза с помощью искусственного интеллекта необходима его проверка, в том числе людьми. Без нее промышленное использование такого прогноза опасно, стоимость ошибки может обернуться большими рисками для разработчиков и пользователей. В процессе проверки, как и в создании самой модели, конечно, присутствуют люди. Но они выполняют больше роль постановщика задачи и наблюдателя, а система сама проводит тесты (сравнение обучаемой выборки с контрольной). Человек принимает финальное решение как правильно действовать в данной ситуации и использовать ли данную модель для других прогнозов.

Как алгоритм понимает, что сейчас произойдет вспышка коронавируса, а не сибирской язвы или атипичной пневмонии?

Сам искусственный интеллект ничего не понимает. Машина может предсказать вероятность эпидемиологической вспышки и потенциальную скорость распространения, сориентировать по очагу заражения. Но какой это именно будет вирус, она не предскажет. Ведь помимо расшифровки самого генома конкретного появившегося штамма вируса, для предсказания динамики эпидемии, важно составить еще сложнейшую модель его взаимодействия с человеком. Это очень сложная задача. И не стоит забывать о вопросах мутации вируса.

Пока построить достоверные модели просто невозможно, хотя бы потому, что для этой задачи не хватает даже научной базы.

Что еще почитать по теме:

Суперкомпьютер IBM Watson является самым известным примером использования искусственного интеллекта в диагностике и терапии рака

Первая попытка применить компьютерные вычисления в медицине относится к 70‑м годам XX века. Группа ученых Стэнфордского университета создала экспертную систему MYCIN, которая работала с помощью простой машины ввода и базы данных из 600 логических правил. MYCIN должна была стать цифровым ассистентом врача в диагностике заболеваний, их обосновании и составлении курса лечения.

Особенно хорошо искусственный интеллект зарекомендовал себя в прогнозировании заболеваний. Так, система, разработанная в Университете Луизианы, способна предсказывать эпилептические припадки с точностью до 99,6% за час до появления основных симптомов. Похожее решение IBM и Astra Zeneca предупреждает пациента о риске инфаркта и инсульта, анализируя особенности его организма. Нейронная сеть для оценки электрокардиограмм Geisinger может прогнозировать сбои сердечного ритма точнее профессиональных кардиологов.

Поскольку онкологические заболевания – это мутации в организме на клеточном уровне, для постановки диагноза и подбора лечения необходимо обработать массу данных, что порой не под силу даже квалифицированному врачу. К примеру, Google в 2018 году разработал алгоритм, который правильно диагностирует рак в 89% случаев, а участвовавшие в тестировании врачи набрали лишь 73%. Предполагается, что в будущем персонализация лечения рака с помощью ИИ (разработка препаратов с учетом индивидуальных особенностей ДНК) позволит воздействовать на опухоль точечно, что будет гораздо эффективнее химиотерапии.

Вслед за Штатами идет Китай, который с каждым годом наращивает государственные программы поддержки ИИ. В 2019 году китайские инвестиции в эту технологию составили $6,8 млрд. А по числу научных статей о ней КНР даже обгоняет США. Кстати, в начале XXI века IBM, фармацевтическая компания Roche и другие корпорации провели ряд исследований в области искусственного интеллекта. Сегодня эти данные находятся в открытом доступе.

Следовательно, больше не нужно быть огромной компанией для выхода на рынок медицинского ИИ, и все большую роль на нем начинают играть старт-
апы. По данным Стэнфордского университета, разработками в области медицинских технологий занимаются 4,1% всех связанных с ИИ стартапов в мире. В США и Европе этот показатель выше – 5,3% и 4,4% соответственно.

Imaginechina / Vostock Photo

Однако пока в стране нет законодательной базы, которая бы регламентировала интеллектуальные системы, то есть врачи не имеют права приобщать к медицинской карте пациента данные, полученные от алгоритмов. Это связывает руки тем клиникам, которые хотели бы попробовать новинку в действии.

Искусственный интеллект часто воспринимается как молодая технология, однако ей уже почти 80 лет. Основы заложил в 1940‑х годах английский математик Алан Тьюринг, описавший логику работы вычислительных машин и разработавший азы теории алгоритмов. Задолго до появления по-настоящему умных компьютеров математик предложил интеллектуальный тест для определения разумности машины.

В 1943 году американский нейрофизиолог Уоррен Мак-Каллок и его ученик Уолтер Питтс разработали первую нейронную сеть и доказали, что она может выполнять любые логические операции. А также самообучаться, распознавать образы и делать выводы, то есть обладать всеми чертами интеллекта.

Первоначально ИИ развивался в аналитическом направлении, которое предполагает выполнение частных интеллектуальных задач – переводы, простейшие игры. Первые алгоритмы разрабатывались по образу и подобию нейронных связей в человеческом мозге.

Переход от теоретической разработки вопроса к практике произошел в 2000-х годах с приходом компьютеров, способных обрабатывать большие объемы информации. Облачные технологии и Big Data позволили ускорить обучение ИИ, а распространение интернета совершило революцию в передаче данных.

Imaginechina / Vostock Photo

Авторизуйтесь, если вы уже зарегистрированы

(14 голосов)

Несмотря на множество современных достижений в нейробиологии, на сегодняшний день пока никто точно не знает, как устроен естественный интеллект. Соответственно, точно так же никто не знает, как именно создать искусственный интеллект. Существует ряд известных проблем, требующих решения для его создания и разные мнения по поводу приоритетности достижения тех или иных решений. Например, руководитель международных проектов по созданию искусственного интеллекта с открытым кодом OpenCog и SingularityNET Бен Герцель считает, что все необходимые технологии для создания общего (сильного) ИИ в принципе уже разработаны, необходимо только соединить их некоторым правильным образом для получения такой синергии, результатом которой станет возникновение общего ИИ. Другие эксперты настроены более скептично, полагая, что необходимо принципиальное решение многих проблем, которые будут перечислены ниже. Также сильно варьируются экспертные оценки срока возникновения сильного ИИ — от десятка до нескольких десятков лет.

Возникновение систем даже просто автономного или адаптивного, а тем более общего или сильного ИИ связывается с несколькими угрозами разного масштаба, которые актуальны уже сегодня. Среди них можно отметить:

Несколько месяцев назад в Праге на площадке Чешского Технического Университета одновременно прошли конференции, посвященные искусственному интеллекту человеческого уровня, общему искусственному интеллекту, биологически-вдохновленным когнитивным архитектурам, а также нейро-символьным технологиям. На конференциях были представлены доклады ведущих специалистов компаний и учреждений, лидирующих в сфере исследовательских разработок в области искусственного интеллекта (ИИ): Microsoft, Facebook, DARPA, MIT, Good AI. В этих докладах были обозначены как текущее состояние разработок в области ИИ, так и стоящие перед обществом нерешенные проблемы, а также угрозы, возникающие в ходе дальнейшего развития этой технологии. В этом обзоре я постараюсь кратко обозначить основные проблемы и угрозы, а также возможные пути противостояния этим угрозам.

Однако, прежде всего, необходимо уточнить значение некоторых терминов, которые обычно употребляются совместно с ИИ в различных контекстах: слабый или специализированный ИИ, автономный ИИ (Autonomous AI), адаптивный ИИ (Adaptive AI), общий ИИ (Artificial General Intelligence, AGI), сильный ИИ (Strong AI), ИИ человеческого уровня (Human-Level AI), ИИ сверхчеловеческого уровня (Super-human AI).

Слабый или специализированный ИИ представлен всеми без исключения существующими решениями и предполагает способность автоматизации решения одной конкретной задачи, будь то игра в Go или распознавание лиц на видеокамерах. При этом отсутствует возможность самостоятельного обучения другим задачам без перепрограммирования человеком.

Автономный ИИ предполагает возможность системы функционировать долгое время без участия оператора. Например, он позволяет дрону, оборудованному солнечными батареями, совершить многодневное путешествие с Елисейских полей на Красную площадь или в обратном направлении, самостоятельно выбирая как маршрут, так и места для промежуточных посадок для подзарядки аккумуляторов, избегая при этом всевозможные препятствия.

Адаптивный ИИ предполагает способность системы адаптироваться к новым условиям, приобретая знания, не закладываемые при создании. Например, позволить системе поддержания диалогов на русском языке самостоятельно осваивать новые языки и применять их знание в разговоре, попадая в новую языковую среду или на основе изучения учебных материалов для этих языков.

Общий ИИ предполагает настолько высокую адаптивность, что обладающая им система может быть использована в самых различных видах деятельности при соответствующем обучении. Обучение может быть как самостоятельным, так и направленным (с помощью инструктора). В этом же смысле в противопоставление слабому или специализированному ИИ также часто употребляется сильный ИИ.

ИИ человеческого уровня предполагает уровень адаптивности сравнимый с человеческим, то есть система способна осваивать те же самые навыки, что и человек в сопоставимые сроки обучения.

ИИ сверхчеловеческого уровня предполагает еще более высокую адаптивность и скорость обучения. Таким образом, система может обучиться тем знаниям и способностям, которые человеку в принципе не под силу.

Принципиальные проблемы создания сильного ИИ

Несмотря на множество современных достижений в нейробиологии, на сегодняшний день пока никто точно не знает, как устроен естественный интеллект. Соответственно, точно так же никто не знает, как именно создать искусственный интеллект. Существует ряд известных проблем, требующих решения для его создания и разные мнения по поводу приоритетности достижения тех или иных решений. Например, руководитель международных проектов по созданию искусственного интеллекта с открытым кодом OpenCog и SingularityNET Бен Герцель считает, что все необходимые технологии для создания общего ИИ в принципе уже разработаны, необходимо только соединить их некоторым правильным образом для получения такой синергии, результатом которой станет возникновение общего ИИ [1]. Другие эксперты настроены более скептично, полагая, что необходимо принципиальное решение многих проблем, которые будут перечислены ниже. Также сильно варьируются экспертные оценки срока возникновения сильного ИИ — от десятка до нескольких десятков лет.

Вместе с тем возникновение сильного искусственного интеллекта вполне закономерно в рамках общего эволюционного процесса, как закономерно и возникновение молекул из атомов, клеток из молекул, организмов из клеток, выделение специализированных клеток в центральную нервную систему, возникновение социальных структур, развитие речи, письменности и в конечном итоге — информационных технологий. Закономерность нарастающей сложности информационных структур и способов организации в процессе эволюции хорошо показана Валентином Турчиным [2]. Если не произойдет гибель человеческой цивилизации, то такая эволюция будет неизбежной, и в самой долгосрочной перспективе это будет спасением человечества, постольку только не биологические формы существования информации смогут пережить неизбежную со временем гибель Солнечной системы и смогу сохранить во Вселенной информационный код нашей цивилизации.

При этом важно осознавать, что для того чтобы построить сильный искусственный интеллект, не обязательно понимать, как устроен естественный, так как необязательно понимать, как летает птица, чтобы сделать ракету. Очевидно, это будет сделано рано или поздно тем или иным способом или, возможно, несколькими способами.

В качестве принципиальных проблем [3], решение которых еще предстоит для создания общего или сильного ИИ, большинство экспертов выделяют следующие:

Потенциальные угрозы ИИ

Возникновение систем даже просто автономного или адаптивного, а тем более общего или сильного ИИ связывается с несколькими угрозами разного масштаба, актуальными уже сегодня.

Во-вторых, угрозу для государства может представлять ситуация, когда другое государство (потенциальный противник) получает вооружения с более адаптивным, автономным и общим искусственным интеллектом с повышенной скоростью реакции и предсказательной способностью.

В-третьих, угрозу для всего мира представляет вытекающая из предыдущей угрозы ситуация, когда государства вступают в новый виток гонки вооружений, совершенствуя уровни интеллекта автономных средств поражения и уничтожения — как это было предсказано Станиславом Лемом несколько десятков лет назад [4].

В-четвертых, угрозу для любой стороны представляет любая, не обязательно боевая, но и промышленная или бытовая интеллектуальная система с определенной степенью автономности и адаптивности, способная не только к целенаправленному действию, но и к сознательному целеполаганию, при том что автономная постановка целей системы может привести к постановке целей, противоречащих целям человека и людей, а возможностей достижения этих целей у системы будет намного больше, в силу её более высокого быстродействия, большего объема обрабатываемой информации и большей предсказательной способности. К сожалению, масштабы именно этой угрозы сообществом не вполне изучены и осознаны.

Наконец, угрозу для человечества в целом может представлять автономизация глобальных вычислительных систем обработки данных, распространения информации и принятия решений на основе глобальных сетей, поскольку скорость распространения информации в таких системах и масштаб воздействия может приводить к непредсказуемым с позиций имеющегося опыта и существующих моделей управления социальным явлениям. Например, внедряемая система социального кредита в современном Китае является уникальным экспериментом цивилизационного масштаба с непонятными на сегодняшний день последствиями.

Пути противостояния угрозам

Представляется безусловно необходимым принятие следующих мер для предотвращения катастрофических сценариев развития технологий ИИ и их применения.

1. Ben Goertzel, Cassio Pennachin, Nil Geisweller, Engineering General Intelligence, Part 1: A Path to Advanced AGI via Embodied Learning and Cognitive Synergy (Atlantis Thinking Machines), Atlantis Press, 2014 th Edition.

2. В. Ф Турчин, Феномен науки: Кибернетический подход к эволюции. Изд. 2-е – М.: ЭТС. — 2000. — 368 с.

3. M. Iklé, A. Franz, R. Rzepka, B. Goertzel, B. (Eds.), Artificial General Intelligence, 11th International Conference, AGI 2018, Prague, Czech Republic, August 22-25, 2018.

Читайте также: