従来の1/3のパラメータ数で雨も霧もまとめてクリアに

パナソニック ホールディングス（ パナソニックHD ）は2月16日、カリフォルニア大学 バークレー校（ UC Berkeley ）、南京大学、北京大学の研究者らと画像認識精度を著しく低下させる雨や雪、霧などを画像から除去することで、画像認識精度を向上させる悪天候除去AIを共同開発した。

同技術は、多重悪天候画像に対する画像認識およびセグメンテーションタスクに於いて、パラメータを72％以上、推論時間を39％節約しながら、従来法より認識精度を上げられる画像復元性能を示した。

画像認識精度を向上させた悪天候除去AIの画像

モビリティやインフラ分野など、屋外で利用される画像認識AIの応用が進んでいる。一方、屋外で取得される画像は天候の影響を受けるため雨、雪、霧などの悪天候下では、物体の見えが大きく変化し、認識精度が著しく低下する。

そこで昨今、全天候で利用できる実用的なAIを実現するために雨、雪、霧などを画像から除去する〝悪天候除去（ Weather Removal ）〟と呼ばれるタスクが注目を集めている。

しかし、これまで天候の種類に応じて異なるモデルを準備したり、全天候で利用できるようモデルを統合する手法が提案されている一方で、計算量の多さがネックとなっていた。

そこで先の4者からなる研究チームで、異なる天候のパラメータを重みで表現することで、少ないパラメータ数で高精度に天候の影響を除去し、一つのモデルで、複数種類の天候とタスクに対応できる技術を開発した。

この技術は、車載センサに於ける危険検知やセキュリティカメラなど全天候で高精度な画像認識が必要とされる様々な場面での活用が期待できる。

なお同技術は先進性が国際的に認められ、AI・機械学習技術のトップカンファレンスであるThe 38th Annual AAAI Conference on Artificial Intelligence（ AAAI 2024 ）に採択され、2024年2月22日から2024年2月25日にカナダ・バンクーバーで開催される本会議で発表する。

技術の内容の概要は以下の通り

AI技術の進展に伴い、モビリティやインフラ分野など、屋外でもロバストな画像認識が求められる場面が増えている一方で、屋外では屋内と比べてコントロールできない要因が格段に増える。

特に、雨、雪、霧などの悪天候が画像中の物体の見えを大きく変化させ、認識精度を著しく下げることが産業応用上の課題とされ、雨粒の除去（ Raindrop Removal ）や、霧除去（ Dehaze ）など、悪天候除去（ Weather Removal ）タスクの研究開発が活発に進められている。

しかし現実世界には「複数の天候が混在する悪天候」が存在し、より信頼性の高い判断が求められるケースは多い。そうしたなか今回は、特定の天候やタスクに特化したAIモデル（ エキスパートモデル ）を構築したり、アンサンブルする取り組みではなく、MoFME（Mixture-of-Feature-Modulation-Experts）を共同開発した。これは画像認識精度を低下させる雨や雪、霧を1つのアンサンブルモデルで、かつ従来の1/3のパラメータ数で除去することが可能な悪天候除去AIとなる。

図1 開発した悪天候除去AIの概略図

それは、従来、天候やタスクに応じて複数のエキスパートモデルを用意する必要があった画像認識やセグメンテーションなどのタスクを、1つのアンサンブルモデルにより実用的な計算量で実現させるもの。

その1つ目は、複数のエキスパートモデルのパラメータを線形変換の重みで表現する「特徴変調エキスパート（ Feature Modulated Expert ）」という手法だ。

それは異なるエキスパートモデルのパラメータを個別に学習するのではなく、特定のエキスパートモデルの線形変調により表現することで、総パラメータ数と計算量を削減させたもの。

2つ目は、入力画像の特徴に応じて、各エキスパートモデルの寄与度を切り替える「不確実性を考慮したルーター（ Uncertainty-aware Router ）」という手法だ。

各エキスパートモデルは、それぞれ得意とする天候が異なる。そこで、あるエキスパートモデルが、天候除去結果に余り自信がない（ 不確実性が高い ）場合は、そのモデルの寄与度を下げ、逆の場合は寄与度を上げるよう最適化することで、アンサンブルモデルの信頼性を高め、画像認識性能を向上させた。

図2に、データセット〝RainCityscapes〟に対するMoFMEによる悪天候除去およびセグメンテーションの結果を示した。この技術は、雨と霧が混在するような複雑な画像に対しても、雨と霧の両方を除去し正解画像同等の結果を得た。

更に悪天候下ではセグメンテーションの精度が著しく低下するが、MoFMEにより事前に悪天候除去を行うことで、セグメンテーションの精度低下を抑制することができた。結果、同技術は多重悪天候画像に対する画像認識およびセグメンテーションタスクに於いて、パラメータを72％以上、推論時間を39％節約しながら、従来法より認識精度を上げられる画像復元性能を示すものとなった。

図2 雨と霧が混在した入力画像に対するMoFMEの悪天候除去結果とセグメンテーションタスクへの効果

なおこの共同開発したMoFMEは、画像認識精度を著しく低下させる雨や雪、霧などを画像から除去することで、それらが画像認識AIの性能に与える影響を低減させ、従来の1/3のパラメータ数で雨も霧もクリアに復元できることから、モビリティやインフラ分野など、屋外でもロバストな画像認識が求められる場面での活用が期待できる。

従って今後もパナソニックHDは、「AI技術の社会実装を加速し、お客様のくらしやしごとの現場へのお役立ちに貢献するAI技術の研究・開発を推進していきます」と述べている。

論文情報
Efficient Deweather Mixture-of-Experts with Uncertainty-aware Feature-wise Linear Modulation
https://arxiv.org/abs/2312.16610

同技術は、UC Berkeleyが主導する「BAIR オープンリサーチコモンズ（※）」の枠組みで開発したもので、Panasonic R&D Center AmericaのDenis GudovskiyとパナソニックHD テクノロジー本部の奥野 智行、中田 洋平が参画した研究成果となる。

※産業界、学術界の垣根を越えて世界トップレベルの研究者がオープンにコラボレーションする場として設立されたAI研究機関で、2024年2月時点ではパナソニックHDのほか、Google、Metaなど10社が参画している。

関連情報
– AAAI2024 公式サイト
  https://aaai.org/aaai-conference/
– Panasonic×AI WEBサイト
  https://tech-ai.panasonic.com/jp/
– Panasonic×AI X
  https://twitter.com/panasonic_ai