3D システム研究室 ホームページ


・研究テーマ(箇条書き)

VRデバイスの設計や研究開発

ゲームエンジン、C++C#を活用したVRシステム開発

MEMS技術やマルティフィジックス解析を活用したデバイス設計・特性最適化・開発

GPUを活用した深層学習によるVRの知能化


・追加資料:動画・画像・論文 など

[1] 力覚と触覚を両方提示できるロボットの研究開発

Figure 2.  Configuration of developed force display.

 図1.力覚と触覚の融合       図2.姿勢の計測と重力の提示機構

 

Figure 2.  Configuration of developed force display.

 

 

 

 

 

 

図3.3本指への力覚提示機構       図4.遭遇型の力覚提示機構

DCサーボモーターを10個使い、力覚、その方法、提示位置変更を3本指に提示する。また、外側は8個の大型DCサーボモータ駆動により、手首の姿勢計測と重力の提示を行っている。

 

Figure 2.  Configuration of developed force display.

 

 図5.カーボンファイバーを使った軽量デバイス

図6.ゲームエンジンのUnityを使ったVRシステム

 

 VRシステムは、ゲームエンジンのUnityC++,C#を使って開発し、グラフィック、干渉や物理計算、モータの制御まですべてを行う、大規模システムを開発している。

J. Sone, , Development of MEMS Tactile Sensation Device for Haptic Robot,

Journal of Robotics and Mechatronics, Vol.32,No.2(Apr)Special Issue on MEMS for Robotics

and Mechatronics, (2020), pp. 315-322,  doi: 10.20965/jrm.2020.p0315

 デモビデオ:

https://drive.google.com/file/d/1s3ETlea3Efh71JO19-aHL4W-1Q_Z8Fey/view?usp=sharing

[] VRの知能化の研究

アバターによる、SLM(Small LanguageModel)を活用したVR展示における自由な対話システムを開発(個別の知識(Instruction learning)にも対応)してます。AIも作りこんでおります

 

S1. VR空間におけるSML活用の対話システム

H. Suga, D. Fujishima, Y. Ishii, Y. Ogai, T. Nagae, D. Katagami, N. Uratani and J. Sone, Study of Natural Language Dialog System for Avatar Communication in Metaverse, The 22nd IEEE International Symposium on Mixed and Augmented Reality (ISMAR) 2023

図7.GPU深層学習を使った、VRシステム概要

図8. 表情認識       図9. VR空間の表現

 

 GPUを活用して、表情認識ができる深層学習システムを開発し、それを活用して、VRシステムの知能化を行っている。これらは、PythonOpenCVをベースとした、人工知能技術を活用したシステムである。現在、論文投稿中である。

 

3]コミュニケーションロボットの研究

 

図10.導入ロボットと深層学習用のGPUサーバー

 

 

図11.色環境を使用した教育システム概要        図12.研究システム内容

 

 ロボット(Pepper3台、深層学習用GPUサーバー、生体情報取得システムを導入し、教育・コミュニケーションロボットの研究・開発を進めている。これは、連携最先端技術研究センターのプロジェクトである。

Sone Junji, , Feasiblity study of psychological approach using robotics for education and communication, Global Journal of Engineering and Technology Advances, 2020, 02(01), 008-013. Article DOI: 10.30574/gjeta.2020.2.1.0001

HP: https://sone276.wixsite.com/jrch-main/blank-1

 

[4]MEMS触覚デバイスの開発

超音波MEMSを活用した触覚デバイスを開発してます。特徴は、MEMSデバイスに上に、超音波を増幅するパッド(金属メッキ付き)を装着し、また、Aeroacoustics効果も作用させて、高性能を実現してます。

 

13-0. 超音波を活用したデバイス

pMUTSと音波拡大機構(MEMS)を活用して、触覚デバイスを開発している。

 J. Sone, Fingertip tactile sensation via piezoelectric micromachined ultrasonic transducers with an amplified interface , Scientific Reports, 14, 2629, pp1-12, (2024). https://doi.org/10.1038/s41598-024-52630-2

カンチレバー型の触覚MEMSも開発してます。

 

13. デバイスの構想図

14. 試作デバイス図

微小電気機械要素(MEMS)を活用して、触覚デバイスを開発している。MEMSの設計は、3D-CADと機械・電気・音波・化学のマルティフィジクスのコンピュータ解析を駆使して実施している。

松本康義, 曽根順治, MEMS技術を用いた触覚提示デバイスの設計と特性解析, 日本バーチャルリアリティ学会論文誌,Vol.22,No.2,2017, pp.279-285, ISSN:1342-6680, https://doi.org/10.18974/tvrsj.22.2_279

樹脂薄膜型の触覚デバイスも開発してます。0.2mmと薄く、柔軟性があり、アクチュエータとセンサーの両方の機能があます。

 

13-0. 薄膜樹脂タイプのTactileデバイス

[5]情報システム開発

・コンピュータグラフィックス

 OpenGLや、DirectXのライブラリーを用いて、C++CG機能の開発もしてます。

最近は、ゲームエンジンのUnityを活用して、アプリケーションソフトを開発してます。

 

 

図15. Unityを使った、システム開発: C#言語