Искусственный интеллект может «развязать» новую пандемию, которая убьет миллионы людей — ученый

Известный профессор высказал обеспокоенность тем, что искусственный интеллект может предоставить доступ к информации о создании опасных заболеваний тем, кто стремится уничтожить планету.

Об этом сообщает dailystar.

Согласно исследованию Медиа-лаборатории Технологического института в Массачусетсе, США, искусственные интеллекты, вроде ChatGPT и FreedomGPT, в будущем могут получить доступ к «большим языковым моделям», содержащим инструкции и рекомендации по созданию смертельных болезней. Это может привести к риску распространения опасных спор, микробов и пандемий в руки злонамеренных личностей.

Профессор Кевин Эсвелт, соавтор отчета отметил, что их исследование показывает, что с появлением больших языковых моделей агенты, способные вызывать пандемии, станут широко доступными.

По его словам, достаточно будет и небольшой лабораторной подготовки или даже ее отсутствия. Это может привести к росту числа людей, способных уничтожить миллионы жизней. «Хотя в этом году маловероятно, что кто-либо из таких людей решит вызвать пандемию, история показывает, что рано или поздно это может произойти. За последние 50 лет мы сталкивались с несколькими преднамеренными пандемиями, и такие случаи будут повторяться с определенной периодичностью», — рассказал он.

Объясняя процесс создания отчета, профессор Эсвелт отметил, что они попросили три независимые группы чат-ботов изучить концепцию, разработку и создание агентов, способных вызвать пандемию и все три группы предложили соответствующие рекомендации в течение часа.

Профессор также предоставил несколько рекомендаций мировым лидерам о том, как предотвратить подобные сценарии. Он призвал общество пересмотреть свой подход к предотвращению распространения пандемий, обнаружению растущих биологических угроз и защите человечества от инфекций.

Профессор подчеркнул, что необходимо разработать всеобъемлющий набор стратегий, описывающих, как построить безопасный мир, свободный от катастрофических биологических угроз. Он отметил, что такая дорожная карта уже существует и требует пристального внимания и действий.

Ранее «Курсор» писал о том, что искусственный интеллект имеет потенциал уничтожить языки и привести к изменению способов мышления.