普里特维-100M IBM地理空间人工智能基础模型用于NASA地球观测数据
基础模型是灵活的深度学习算法，旨在处理通用任务，而不是立即专注于特定任务。它们在大量无标签数据上进行训练，可以应用到各种下游任务，而只需进行最少的微调。基础模型在自然语言处理（BERT，GPT-x）和图像处理（DALL-E）领域中非常知名。
在2023年8月，NASA和IBM发布了NASA地球观测数据的地理空间人工智能基础模型。该模型在Huggingface网站上以普里特维的名义以开源方式提供。它是以印度教母地女神普里特维的名字命名。它是通过对NASA的卫星数据进行训练而得到的 — 根据IBM的说法，提供了超过250PB的数据。
在本篇博客中，我们将讨论：
- 用于训练的NASA一致性哨兵-2和Landsat数据集,
- 普里特维-100M地理空间人工智能基础模型的架构,
- 在IBM的Vela超级计算机上的训练过程,
- 示例应用：洪水和农作物类型识别。
训练数据
地理空间人工智能基础模型是使用NASA一致性LandSat和Sentinel-2数据进行训练的。
Sentinel-2是由欧洲空间局协调的卫星任务，目前有两颗卫星在轨道上拍摄地球的高分辨率图像。它专注于陆地、沿海地区和特定开放水域。Landsat卫星由NASA发射，用于记录地表反射。一致性数据结合了两个传感器的输入，得到了约30米的空间分辨率和平均覆盖时间为两到三天。这种分辨率足够进行农业监测、土地利用分类和自然灾害检测。
标准照片由红、绿、蓝三种颜色组成。Sentinel-2数据总共有13个“颜色”，即所谓的波段，涵盖了电磁波谱中可见光、近红外和短波红外范围。可以使用选定的波段来识别不同的物体，例如红外线…