Разработка новых подходов к организации обработки для получения ежедневных безоблачных композитов по данным прибора КМСС

В рамках работ, нацеленных на обеспечение возможности автоматической тематической обработки данных с российских спутниковых систем, в ИКИ РАН была разработана автоматическая технология потоковой обработки изображений с приборов серии КМСС, находящихся на борту спутников серии «Метеор-М». Данные КМСС характеризуются хорошо востребованным набором показателей пространственного разрешения и повторяемости наблюдений, благодаря чему территория России полностью покрывается результатами съёмки с пространственным разрешением 60 метров в течение 1-2 дней при работе двух приборов. Однако до недавнего времени потенциал этих данных не мог быть по-настоящему использован ввиду ограничений совместимости со стандартными методами, используемыми для предварительной и тематической обработки данных имеющихся спутниковых систем для оптико-электронной съемки. Разработанные в рамках упомянутой выше технологии методы позволили автоматически устранять локальные и систематические искажения географической привязки изображений, детектировать облачность и тени от нее, а также выполнять радиометрическую коррекцию данных. Это стало возможным благодаря проведению совместной обработки данных КМСС с хорошо калиброванными данными прибора MODIS, установленного на спутниках Terra и Aqua. Для реализации совместной обработки данных этих приборов, отличающихся как по пространственному разрешению, так и по схемам хранения в архивах, для выборки данных была использована созданная в ИКИ РАН технология динамического блочного доступа.

В 2021 году разработанная по представленной технологии комплексная процедура обработки была внедрена в эксплуатацию. В настоящее время она позволяет получать ежедневные интерполированные безоблачные композитные изображения по данным КМСС по территории сельскохозяйственного пояса России. Благодаря высокому качеству получаемых информационных продуктов, они могут быть использованы для решения задач мониторинга и количественной оценки характеристик растительного покрова, в том числе, и в оперативном режиме. Пример ежедневного безоблачного изображения по данным прибора КМСС приведен на рисунке 1.

 

Рисунок 1 - Пример ежедневного безоблачного изображения КМСС за 1 июля 2022

В 2022 году активно велись работы по повышению качества получаемых продуктов, а также по оптимизации самих процедур их обработки, необходимость которой связана с большими вычислительными затратами, необходимыми для проведения комплексной процедуры обработки. Так, в настоящее время для получения одного оперативного безоблачного интерполированного композита необходимы вычислительные ресурсы как минимум 6 выделенных серверов обработки данных. В тех же случаях, когда возникает задача повторной обработки данных за предшествующие периоды времени с использованием более совершенных алгоритмов, нагрузка на сервера может возрастать в разы. Ниже рассматриваются два новых подхода к организации рассматриваемой комплексной обработки, которые в перспективе могут позволить радикально снизить требования на вычислительные ресурсы, необходимые для ее проведения.

Данные прибора КМСС, установленного на российских спутниках серии «Метеор-М», используемые для проведения рассматриваемой обработки, принимаются и архивируются в трех центрах  ФГБУ НИЦ «Планета», расположенных в Москве, Новосибирске и Хабаровске, что позволяет оперативно получать данные по всей территории России. Существенно, что этих в центрах могут приниматься и поступать в архивы одни и те же сеансы (витки) спутниковых данных, а часть сеансов также поступает в центр в Москве в режиме записи. При этом данные одного и того же сеанса, поступившего в архивы из разных источников зачастую не являются идентичными как по пространственному покрытию, так и по качеству их географической привязки и калибровки. Это приводит к тому, что в рамках рассматриваемой процедуры обработки блоки данных каждой из версий таких сеансов обрабатываются отдельно. Важно отметить, что в результате проведения обработки примерно только половина исходных блоков данных используется для получения итогового продукта. Основной причиной этого является высокая облачность данных, но и иногда это связано и с плохой географической привязкой исходных данных. Поэтому для получения максимально полных данных было решено использовать блоки по всем вариантам одних и тех же сеансов, что приводит к тому, что около трети блоков  данных обрабатываются два и более раз.

На рисунке 2 представлена схема, на которой градациями серого цвета представлена степень дублирования блоков данных в текущем году по обрабатываемой территории. При этом черному цвету соответствует ситуация, когда блок данных всегда дублировался, а белому то, что он был в единственном экземпляре. Наибольшее дублирование блоков имеет место на востоке России, что связано с тем, что почти все принятые там сеансы поступают в архивы также и в режиме записи. Дублирование данных в европейской части России также связано и с тем, что иногда одни и те же сеансы принимаются сразу на двух станциях приема в Европейском центре НИЦ «Планета» в Москве. Для снижения требуемых для проведения обработки данных прибора КМСС вычислительных ресурсов было решено рассмотреть вопрос исключения из обработки наименее подходящих из дублирующих сеансов. Для этого в рамках использования реализованного в этом году механизма контекстной фильтрации была реализован метод, позволяющий на основе сравнения пространственного покрытия таких сеансов и источника их поступления выбрать из них наиболее полный. В настоящее время производится анализ того, насколько исключение дублирующих сеансов данных скажется на качестве получаемых композитных изображений. В случае, если негативный эффект окажется несущественным, контекстная фильтрация будет внедрена в эксплуатацию, что позволит сократить требования к вычислительным ресурсам примерно на треть.

 

Рисунок 2 – Степень дублирования блоков данных по одним и тем же сеансам данных прибора КМСС

В качестве еще одного перспективного подхода, который потенциально может существенно ускорить выполнение обработки, рассматривается использование технологий Deep Learning для детектирования облачности и теней на изображениях прибора КМСС. В текущей реализации для выполнения этой операции используется достаточно сложный алгоритм, требующий весьма значительных вычислительных ресурсов. Для реализации этого подхода была выбрана сверточная нейронная сеть U-Net, которая считается одной из стандартных архитектур для задач сегментации изображений, когда нужно не только определить класс изображения целиком, но и сегментировать его области по классам. Одним из основных ее преимуществ является возможность использования сравнительно небольшого количества обучающих данных для достижения хороших результатов. Архитектура этой сети включает в себя 23 сверточных слоя и состоит из стягивающего пути для захвата контекста и симметричного расширяющегося пути, который позволят осуществить точную локализацию. Пример топологии сети U-Net представлен на рисунке 3. На нем каждый синий квадрат соответствует многоканальной карте свойств, для которого сверху приведено количество каналов, а в нижнем левом краю – размер признаков, белые квадраты представляют собой копии карты свойств, а стрелки обозначают различные операции.

 

Рисунок 3 Архитектура U-net (пример изображения с разрешением 32×32 пикселя)

Для реализации сверточной нейронной сети U-net был выбран язык программирования Python, библиотека Keras, обеспечивающая взаимодействие с искусственными нейронными сетями, и нейросетевая библиотека TensorFlow. В качестве обучающей выборки были использованы фрагменты данных прибора КМСС, полученные при помощи технологии динамического блочного доступа, и результаты детектирования облачности и теней, полученные при помощи уже реализованного алгоритма. Отдельно производится обучение по красному и ближнему инфракрасному каналам прибора КМСС. На рисунке 4 приведен график обучения реализованной нейронной сети.

 

Рисунок 4 - График обучения нейронной сети

В настоящее время работы по совершенствованию и обучению сети еще не завершены. Тем не менее, обученная нейронная сеть уже сейчас используется в работе комплексной процедуры обработки в качестве вспомогательного инструмента, используемого для грубой экспресс оценки облачности на изображениях прибора КМСС. В том случае, если в результате дальнейшего обучения сети точность ее результатов станет приемлемой, она будет использоваться в качестве основного инструмента для детектирования облачности и теней, что позволит в разы ускорить выполнение процедуры атмосферной и геометрической коррекции данных, которая вносит основной вклад во время выполнения всей комплексной процедуры обработки.