アクセス
Facebook
X
Instagram
YouTube
日本語
お問い合わせ
トップページ
研究活動
AI for Scienceプラットフォーム部門紹介
AI学習最適化基盤開発ユニット
AI学習最適化基盤開発ユニット
English
ユニットリーダー Mohamed WAHIB（モハマド ワヒブ）
mohamed.attia [at] riken.jp （拠点：東京）- Emailの[at]は@にご変更ください。
- 2012
- 北海道大学、博士
- 2012
- AICS 特別研究員
- 2017
- 産総研・東工大 実社会ビッグデータ活用 オープンイノベーションラボラトリ 主任研究員
- AICS 客員研究員
- 東京工業大学 特任研究員
- 2022
- 理化学研究所 計算科学研究センター(R-CCS) 高性能人工知能システム研究チーム チームリーダー（現職）
- 2024
- 理化学研究所 計算科学研究センター(R-CCS) AI for Scienceプラットフォーム部門 AI学習最適化基盤開発ユニット ユニットリーダー（現職）
キーワード
- 人工知能に基づく科学
- 基盤モデルのためのインフラストラクチャ（訓練、推論）
- 科学における生成AI
- 科学におけるAIの統合
研究概要
学習最適化プラットフォーム開発ユニットは、商用ユースケースを超えて科学分野に AI の使用を拡大するための AI ソフトウェア インフラストラクチャとモデルの開発に焦点を当てた R-CCS ユニットです。 特に、半構造化されたマルチモーダルデータ、複雑な表現、および帰属の科学的要件に適応します。 具体的には、以下のテーマを中心に次世代AIシステムの研究を行っています。
1. さまざまな科学分野にわたる複雑な最適化問題に対処するために、生成 AI 技術をスケーリングするための新しい最適化手法を調査および開発します。 生成 AI モデルの統合を通じて、最適化パフォーマンス、スケーラビリティ、適応性を強化することに重点を置いています。
2. 大規模言語モデル (LLM) の並列および分散推論技術を研究、開発、実装し、LLM 上に構築された効率的で科学的なアプリケーションを可能にします。 リアルタイムおよび大規模な科学アプリケーション向けに、LLM の推論速度、スケーラビリティ、およびリソース利用率を向上させることに重点を置いています。
3. 最新のハードウェア アーキテクチャの計算能力を活用し、最適化プロセスを加速するために、並列分散 DNN を研究、開発、実装します。さまざまなドメインにわたる大規模な問題に対する最適化アルゴリズムのスケーラビリティ、効率、堅牢性の向上に焦点を置いています。
主な研究成果
- 特にモデルトレーニングの効率化や科学用途向けのニューラルネットワークアーキテクチャの最適化などの分野で、機械学習のための実用的でスケーラブルなソリューションを開発する（NeurIPS’23、TEVC’24、TPDS’22、HPDC’21、SC’20）。
- 実用的な現実世界の科学問題に対する AI ソリューションの開発: 分子動力学シミュレーション (Nature Sci. Data'22)、ニューロモーフィック コンピューティング チップ シミュレーション (TPDS'23)、画像の再構成と処理 (SC'22、SC'21)、 欧州宇宙機関 (ESA) の惑星間飛行軌道 (SoftwareX'21)。
主要論文
-
Enzhi Zhang, Isaac Lyngaas, Peng Chen, Xiao Wang, Jun Igarashi, Yuankai Huo, Masaharu Munetomo, Mohamed Wahib.
"Adaptive Patching for High-resolution Image Segmentation with Transformers"
International Conference for High Performance Computing, Networking, Storage, and Analysis (SC 2024) -
Du Wu, Jintao Meng, Peng Chen, Mohamed Wahib, Xiao Wang, Minwen Deng, Wenxi Zhu, Luo Tao, Yanjie Wei.
"autoGEMM: Pushing the Limits of Irregular Matrix Multiplication on Arm Architectures"
International Conference for High Performance Computing, Networking, Storage, and Analysis (SC 2024) -
*Yu Xue, Jiajie Zha, Danilo Pelusi, Peng Chen, Tao Luo, Liangli Zhen, Yan Wang, Mohamed Wahib.
"Neural Architecture Search With Progressive Evaluation and Sub-Population Preservation"
in IEEE Transactions on Evolutionary Computation, doi: 10.1109/TEVC.2024.3393304 -
Thao Nguyen Truong, Balazs Gerofi, Edgar Josafat Martinez-Noriega, Francois Trahay, Mohamed Wahib.
"KAKURENBO:"Adaptively Hiding Samples in Deep Neural Network Training"
Advances in Neural Information Processing Systems 2023 (NeurIPS 2023) -
*Huaipeng Zhang, Nhut-Minh Ho, Yigit Polat Dogukan, Peng Chen, Mohamed Wahib, Truong Thao Nguyen, Jintao Meng, Rick Siow Mong Goh, Satoshi Matsuoka, Tao Luo, Weng-Fai Wong.
"Simeuro: A Hybrid CPU-GPU Parallel Simulator for Neuromorphic Computing Chips"
IEEE Transactions on Parallel and Distributed Systems, volume:34, pp2767-2782 (2023) -
*Lingqi, Mohamed Wahib, Chen Peng, Jintao Meng, Xiao Wang, Toshio Endo, Satoshi Matsuoka.
"PERKS: a Locality-Optimized Execution Model for Iterative Memory-bound GPU Applications"
ACM 37th International Confernce on Supercomputing (ACM ICS 2023) -
*Jintao Meng, Peng Chen, Mingjun Yang, Mohamed Wahib, Yanjie Wei, Shengzhong Feng, Wei Liu,Liangzhen Zheng.
"Boosting the Predictive Performance with Aqueous Solubility Dataset Curation"
Nature Scientific Data, March 2022
