Air-Guardian от MIT: Повышение безопасности полетов с помощью ИИ
Ученые MIT разработали Air-Guardian — передовую систему глубокого обучения, призванную работать в тандеме с пилотами и значительно увеличивать уровень безопасности полетов. Этот искусственный интеллект (ИИ) в роли копилота способен выявлять критические ситуации, которые могут быть упущены человеческими пилотами, и вмешиваться, чтобы предотвратить потенциальные аварии.
В основе Air-Guardian лежит новаторская архитектура глубокого обучения, известная как Liquid Neural Networks (LNN), разработанная в Лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL). LNN проявили высокую эффективность в различных областях, особенно в ситуациях, требующих необходимого уровня прозрачности и понятности ИИ, что делает их привлекательной альтернативой традиционным моделям глубокого обучения.
Мониторинг внимания человека и фокуса ИИ
Air-Guardian использует инновационный подход для повышения безопасности полетов. Он непрерывно контролирует внимание пилота и фокус ИИ, определяя моменты, в которых они расходятся. Если пилот упускает критически важный аспект, система ИИ может незаметно взять на себя управление соответствующими параметрами полета. Это взаимодействие "человек в цепочке" гарантирует, что пилот остается во главе управления, в то время как ИИ компенсирует любые недоработки. Рамин Хасани, ученый в области ИИ из MIT CSAIL и соавтор исследования Air-Guardian, отмечает: «Наша цель — создать системы, которые взаимодействуют с людьми, позволяя ИИ помогать в сложных ситуациях, используя при этом человеческие преимущества».
Например, во время полетов на малых высотах непредсказуемые гравитационные силы могут вызвать дезориентацию пилота. Air-Guardian создан, чтобы взять управление в таких случаях. Аналогично, когда пилот перегружен избыточной информацией на экране, ИИ может фильтровать данные и подчеркивать важные сигналы.
Современные методы мониторинга
Air-Guardian использует технологии отслеживания взгляда для оценки внимания человека, а тепловые карты визуализируют фокус ИИ. Когда фиксируется несоответствие, Air-Guardian анализирует, определил ли ИИ проблему, требующую немедленного внимания.
ИИ для приложений с критичными требованиями по безопасности
Как и многие системы управления, Air-Guardian основан на модели глубокого обучения с подкреплением, где ИИ-агент наблюдает за окружением и принимает решения на основе этих наблюдений. Этот агент получает вознаграждение за правильные действия, что позволяет нейронной сети разрабатывать эффективные стратегии принятия решений.
Отличительной чертой Air-Guardian являются LNN в его основе. LNN предлагают большую прозрачность, позволяя инженерам тщательно анализировать процессы принятия решений модели, что резко контрастирует с традиционными системами глубокого обучения, зачастую называемыми «черными ящиками».
«Для приложений с критически важными требованиями понимание функциональности системы имеет решающее значение, что делает объяснимость необходимостью», — утверждает Хасани.
Хасани исследует LNN с 2020 года, и их предшествующая работа над эффективной системой управления дронами получила признание в журнале Science Robotics. Теперь они продвигают эти технологии для реальных приложений.
Еще одно важное преимущество LNN заключается в их способности усваивать причинно-следственные связи из данных. Традиционные нейронные сети часто устанавливают неверные или поверхностные корреляции, что приводит к ошибкам в реальных приложениях. В отличие от этого, LNN могут взаимодействовать с данными для изучения контрфактических сценариев и понимания взаимосвязи причин и следствий, что повышает их надежность.
«Чтобы понять истинную цель задачи, нужно изучать не только статистические признаки; понимание причинно-следственных связей критически важно», — отмечает Хасани.
Компактные и эффективные ИИ-решения
Liquid Neural Networks также выделяются своей компактностью. В отличие от традиционных глубоких нейронных сетей, LNN могут выполнять сложные задачи с значительно меньшим количеством вычислительных единиц. Эта эффективность позволяет им функционировать на устройствах с ограниченными вычислительными возможностями.
Хасани поясняет: «По мере масштабирования ИИ-систем они становятся мощнее, но их сложнее развертывать на периферийных устройствах».
В предыдущих исследованиях команда MIT CSAIL продемонстрировала, что LNN из всего лишь 19 нейронов может освоить задачу, для которой в традиционной глубокой нейронной сети обычно требуется 100 000 нейронов, подчеркивая важность компактности для приложений на периферии, таких как автоматизированные автомобили, дроны и авиация, где крайне важным является принятие решений в реальном времени.
Расширение применения Air-Guardian и LNN
Хасани предполагает, что результаты работы над Air-Guardian могут быть применены в различных сценариях, где ИИ поддерживает человеческое взаимодействие. Эти приложения варьируются от координации задач в конкретных программных продуктах до более сложных областей, таких как автоматизированная хирургия и автономное вождение.
«Применения могут быть обобщены на различные дисциплины», — подчеркивает Хасани.
LNN также могут ускорить развитие автономных агентов, особенно в контексте больших языковых моделей. Они могут предоставить ИИ-агентам возможность принимать обоснованные решения и объяснять их человеческим коллегам, эффективно согласуя свои цели.
«Liquid Neural Networks функционируют как универсальные системы обработки сигналов», — поясняет Хасани. «Независимо от входных данных, будь то видео, аудио, текст или временные ряды, LNN могут генерировать разнообразные модели, открывая новые возможности для предсказательного моделирования, автономии и генеративных ИИ-приложений».
Хасани сравнивает текущую траекторию LNN с ключевым моментом, предшествовавшим выпуску в 2016 году трансформирующей статьи «transformer», которая заложила основу для больших языковых моделей, таких как ChatGPT. Мы на грани раскрытия полного потенциала LNN, что откроет путь к продвинутым ИИ-системам на периферийных устройствах, таких как смартфоны и персональные компьютеры.
«Это основополагающая модель для новой волны ИИ-систем», — утверждает Хасани. «Новая эра инноваций на подходе».
Рейтинг
