Направления развития подходов ведения сверхбольших распределенных архивов спутниковых данных для обеспечения создания и поддержки современных информационных систем дистанционного мониторинга (концепция создания специализированных информационных сред комплексного решения задач развития и поддержки современных информационных систем дистанционного мониторинга).
Проведенный в рамках темы "Мониторинг" в 2017 году Анализ тенденций и определение приоритетных направлений развития технологий построения систем информационных дистанционного мониторинга (СДМ) показал, что в настоящее время происходит активный переход данных технологий к стадии 5 их развития. Фактически это перспективная стадия развития технологий и подходов создания и эксплуатации СДМ, основаная на том, что современные информационные технологии позволяют эффективно поддерживать сложные распределенные информационные системы с использованием технической инфраструктуры, предоставляемой различными дата-центрами. При этом такие ресурсы могут предоставляться с использованием облачных технологий, что позволяет, в частности, выделять те или иные вычислительные ресурсы по мере того, как они становятся необходимы конкретному пользователю (в нашем случае информационной системе дистанционного мониторинга). Такой подход позволяет принципиально снизить начальные капиталовложения и время создания информационных систем, а также существенно повышает устойчивость их работы и простоту поддержки и развития. Создание и поддержка СДМ также может идти по такому пути, т.е., фактически, создаваться и эксплуатироваться на основе использования уже имеющихся ресурсов, которые могут предоставляться создаваемой системе, как сервисы. В пределе, при таком подходе в интересах конкретных СДМ необходимо лишь создавать специализированные процедуры и интерфейсы работы с данными, которые могут функционировать, используя не принадлежащие СДМ информационные (сервисы представления данных) и вычислительные ресурсы, получая их в аренду или подписываясь на них. Это, в конечном итоге, должно позволить принципиально сократить расходы на создание СДМ, и позволить оптимизировать расходы на их эксплуатацию.
Следует иметь в виду и специфику СДМ, которая в первую очередь определяется необходимостью работы с большими объемами постоянно поступающих спутниковых данных, а также работы со сверхбольшими распределенными архивами данных ДЗЗ и результатов их обработки. Т.е. для того, чтобы обеспечить эффективность создания и поддержки СДМ, необходимо не только получить необходимые вычислительные ресурсы, но и сервисы по доступу к различным данным ДЗЗ и информации, получаемой на основе данных ДЗЗ. Кроме того, следует иметь в виду, что в настоящее время достаточно быстро развиваются технологии, позволяющие пользователям не только получать удаленный доступ к такой информации, но и получать возможность проводить ее обработку с использованием распределенных вычислительных ресурсов. Появляющиеся возможности также могут предоставляться СДМ, как сервисы.
Таким образом, значительное число функций современных СДМ может быть реализовано на основе сервисов, которые уже сегодня предоставляются различными центрами обработки, архивации и представления спутниковых данных, а именно:
- сервисы представления доступа к оперативным и историческим архивам спутниковых данных и результатов их обработки (в том числе, online-сервисы, позволяющие интегрировать различные информационные продукты в интерфейсы работы с данными различных СДМ);
- сервисы обработки данных (в том числе, online-сервисы, позволяющие интегрировать в СДМ различные процедуры распределенной обработки данных);
- сервисы по предоставлению вычислительных ресурсов для реализации различных блоков, входящих в состав СДМ.
Опыт развития систем приема (сбора), архивации, обработки и распространения данных ДЗЗ показывает, что сегодня только достаточно крупные центры (в том числе распределенные), выполняющие большое число работ в области создания и развития методов, технологий и систем дистанционного мониторинга, имеют возможность обеспечивать комплексное предоставление обсуждаемых выше сервисов. Это связано прежде всего с тем, что подобные центры должны обладать развитой технической инфраструктурой, способной поддерживать работу со сверхбольшими архивами спутниковых данных. В настоящее время действует достаточно ограниченное число подобных центров, и в дальнейшем маловероятно, что их число будет расти. Скорее в перспективе можно ожидать их объединения или консолидации. В нашей стране на сегодняшний день к таким центрам, которые могут оказывать весь спектр обсуждаемых сервисов, можно отнести лишь центры ФГБУ «НИЦ «Планета» (http://moscow.planeta.geosmis.ru/), Центр коллективного пользования «ИКИ-Мониторинг» (http://ckp.geosmis.ru/) примерно в этом же направление развиваются центры Роскосмоса, в том числе НЦ ОМЗ (http://www.ntsomz.ru/). Отдельные сервисы (например, сервисы доступа к различным информационным продуктам) уже сегодня могут предоставлять и другие центры приема и обработки данных и специализированные СДМ.
Следует отметить, что уже сегодня имеется положительный опыт создания и эксплуатации различных СДМ на основе подходов, соответствующих Стадии 5. К таким системам, в частности, относятся текущие версии следующих систем дистанционного мониторинга:
- система дистанционного мониторинга "Sea The Sea" (http://ocean.smislab.ru) ориентирована на работу с данными спутниковых наблюдений для решения междисциплинарных задач исследования Мирового океана. Особое внимание в системе уделяется возможностям работы с данными спутниковой радиолокации (в основном данными, получаемыми со спутников серии Sentinel-1). Система призвана обеспечить возможность одновременной работы с различными видами спутниковой информации и удобный инструментарий, позволяющий проводить ее комплексный анализ, специалистам, работающим в области исследования Мирового океана;
- система дистанционного мониторинга "Вега-Geoglam" (http://vega.geoglam.ru/) ориентирована на поддержку работ по развитию методов и технологий спутникового мониторинга сельского хозяйства в для создания системы глобального мониторинга сельского хозяйства GEOGLAM (http://geoglam.org). Разрабатывалась в рамках проекта SIGMA (https://twitter.com/SIGMA_GEOGLAM). Основная задача системы VEGA-GEOGLAM – обеспечение инструментами анализа данных наблюдений за земной поверхностью, результатами их обработки и другой соответствующей информацией, в частности, для тестовых участков сети SIGMA-JECAM, предназначенных для проведения исследований и разработок в области дистанционного сельскохозяйственного мониторинга;
- система дистанционного мониторинга "Вега-Приморье" (http://primorsky.geosmis.ru/) разработана и поддерживается АНО "Общество дикой природы", ООО "ИКИЗ" и ИКИ РАН в качестве пилотного проекта по организации комплексного космического мониторинга лесов Приморского края.
Все эти системы в настоящее время не имеют своей технической инфраструктуры и архивов спутниковых данных. Созданные в интересах систем специализированные интерфейсы и блоки анализа данных для работы с данными реализованы на технических ресурсах ЦКП «ИКИ-Мониторинг». Это позволило создателям данных систем сосредоточиться на решении только специфических задач, стоящих перед системами. На этапе эксплуатации данных систем также не требуется специальной дорогостоящей поддержки технической инфраструктуры работы со спутниковыми данными. Опыт реализации данных систем показал, что подходы к созданию СДМ, которые предлагается использовать на пятой Стадии развития подходов к построению систем дистанционного мониторинга, работоспособны и обеспечивают возможность решения задач разной тематической направленности с использованием единой технической и информационной инфраструктуры ЦКП «ИКИ-Мониторинг». Это позволяет создавать их в достаточно короткие сроки, эффективно поддерживать и постоянно развивать. Следует особо отметить, что по мере появления в центре, предоставляющем сервисы СДМ, новых возможностей (например, новых типов данных и/или функций их анализа), эти возможности с минимальными затратами появляются и у специализированных систем мониторинга.
Отметим также, что развиваемые в рамках обсуждаемых подходов СДМ автоматически получают технические возможности работы с данными не только с ресурсами ЦКП «ИКИ-Мониторинг», который предоставляет им различные сервисы, но и с ресурсами центров и систем, с которыми у ЦКП имеются схемы сервисного взаимодействия. Такие возможности в настоящее время реализованы для Объединенной системы работы с данными ФГБУ «НИЦ «Планета», Геопорталом Роскосмоса, ИСДМ-Рослесхоз и др.
Таким образом, мы видим, что в настоящее время есть технические возможности для начала активного использования подходов Стадии 5 создания и поддержки информационных систем дистанционного мониторинга, на которой технической основой развития специализированных СДМ становится уже действующая инфраструктура крупных центров сбора, обработки и распространения спутниковых данных. В России такие центры создаются и развиваются Росгидрометом (ФГБУ «НИЦ «Планета»), Роскосмосом (НЦ ОМЗ АО "Российские космические системы») и Министерством науки и высшего образования (ИКИ РАН). Эти центры развиваются в том числе при поддержке Федеральной космической программы (проекты развития Единой территориально-распределенной сети работы с данными ДЗЗ (ЕТРИС ДЗЗ). Такие центры обеспечивают первичную и стандартную обработку поступающих в них данных, большинство из этих центров уже сегодня предоставляют широкий спектр сервисов не только для распределенного доступа к данным, но и для проведения их анализа и обработки. Также такие центры могут предоставлять возможности размещения элементов создаваемых СДМ на своей территории, в том числе и на предоставляемых центрами вычислительных ресурсах.
Опыт последнего десятилетия показал, что с увеличением роста объемов доступных спутниковых данных и развитием технологий, позволяющих распределенную работу с ними, следует ожидать, что все больше действующих и вновь создаваемых СДМ будут развиваться на основе подходов Стадии 5. Поэтому, безусловно, у крупных центров будут расширяться возможности по предоставлению услуг, востребованных организациями, осуществляющими разработку и поддержку СДМ. Исходя из этого, на наш взгляд, одним из наиболее актуальных направлений развития таких центров будет создание в их рамках специализированных информационных сред, позволяющих комплексно решать задачи создания и поддержки СДМ, включая задачи интеграции в них различных информационных ресурсов, в том и представляемых самими системами дистанционного мониторинга. Эти среды должны предоставлять разработчикам СДМ:
- удобные и стандартизированные сервисы доступа к данным и результатам их обработки, включая сервисы доступа к различным информационным продуктам различных информационных систем;
- сервисы обработки данных (возможность заказа и анализа различных стандартизированных информационных продуктов непосредственно в интерфейсах СДМ)
- сервисы анализа данных (инструменты анализа, которые могут быть интегрированы в СДМ);
- вычислительные ресурсы для размещения элементов СДМ, в том числе и динамически выделяемые;
- средства для разработки элементов СДМ, в том числе для:
- ведения архивов данных;
- создания различных интерфейсов работы с данными;
- разработки процедур распределенной обработки данных;
- разработки различных блоков предоставления сервисов, которые в дальнейшем будут представлять сами СДМ;
- создания блоков удаленного контроля и управления элементами СДМ (в том числе распределенными).
Следует также отметить, что эффективность и привлекательность таких сред будет повышаться, если они обеспечат возможность online-работы разработчиков СДМ не только с отдельным центром, но и ресурсами, предоставляемыми группами центров. Это может быть обеспечено либо путем реализации одной технологической среды в различных центрах, либо созданием и внедрением стандартов взаимодействия различных сред. В нашей стране эти задачи могут быть, в частности, решены в рамках работ по созданию и развитию ЕТРИС ДЗЗ.