ИИ научился самосовершенствоваться: к чему это может привести
Разработчики ИИ приступили к тестированию технологий, которые позволяют нейросетям самостоятельно совершенствовать собственный код без прямого участия человека.
Об этом пишет "TechCrunch".
Речь идет о концепции рекурсивного самосовершенствования, при которой алгоритм способен анализировать свои ошибки, переписывать внутренние механизмы и постепенно улучшать собственную производительность.
Эксперты отмечают, что еще недавно подобные сценарии считались исключительно предметом научной фантастики, однако сегодня ведущие мировые лаборатории уже проводят реальные эксперименты в этом направлении.
Несколько технологических компаний работают над системами, которые могут самостоятельно генерировать новые решения, тестировать их и вносить изменения в собственную архитектуру.
По словам специалистов, подобный подход может значительно ускорить развитие искусственного интеллекта, поскольку дальнейшее совершенствование будет зависеть не столько от работы программистов, сколько от вычислительных мощностей.
В индустрии уже фиксируются случаи, когда значительная часть обновлений для ИИ-инструментов создается самими алгоритмами.
Эксперты выделяют три возможных этапа развития такой технологии: ограниченная автономность, достижение уровня ведущих человеческих специалистов и последующий переход к саморазвитию, которое будет происходить быстрее человеческого контроля.
При этом специалисты по безопасности предупреждают, что главной проблемой остается отсутствие четких механизмов контроля над системами, способными самостоятельно изменять собственные правила работы.
Впрочем, представители крупнейших технологических компаний призывают не драматизировать ситуацию, отмечая, что до полностью автономного суперинтеллекта пока еще далеко.
Основными ограничителями остаются нехватка вычислительных ресурсов и отсутствие полного понимания того, как безопасно контролировать подобные системы.
Ранее "Курсор" писал, что названо действие которое стоит делать со своим смартфоном раз в неделю.
