In the summer of 2024, the Matsuo-Iwasawa Laboratory (Matsuo lab) began hosting research interns. Over the summer, interns worked on a variety of research themes under the mentorship of leading experts in their fields. A total of 15 participants, including several international members, have participated in 2024.
In this article series, interns from abroad will share their experiences as research interns at the Matsuo lab, as well as memories from Japan. Each article is presented in both English and the intern’s native language. The first article features Mr. Simon Holk from Sweden.
Please also read articles featuring Mr Álvaro from Spain!
Q1: Please share your research theme and mentor’s name.
(In English)
My research theme is 12. Developing Foundation Models for Robotics. I have researched skill transfer in foundation models in robotics. Basically, the research involves training new skills or styles for a robot that can then be transferred between tasks or even between different robots.
One of the reasons to work on this is to make robotics more modular, where you can pick and choose skills without having to train from scratch each time. To create a metaphor for people who enjoy movies, imagine Neo from The Matrix when he downloads kung fu skills and then can use them immediately without training. If you can train skills on LoRAs, which can be transferred between tasks and robots, you will have something similar. LoRAs are basically smaller networks with additional activations that help finetune larger models. I believe that the future of robotics lies with foundational models, and LoRAs have shown to be a great way to fine-tune.
My mentor is Matsushima Tatsuya. My impression of him is that he’s very knowledgeable. If you have any questions, he always has some related research paper. He has been patient and always makes time for me when I need to discuss something. Not only is he great to work with in the lab, but I have also been invited to other activities like bouldering, which has made me feel welcome.
(In Swedish)
Mitt forskningstema är skill transfer i foundational models inom robotik och min handledare är Matsushima Tatsuya. Forskningen handlar i grunden om att träna nya färdigheter eller stilar för en robot som sedan kan överföras mellan uppgifter eller till och med mellan olika robotar. En av anledningarna till att arbeta med detta är att göra robotik mer modulär, där du kan välja och använda färdigheter utan att behöva träna från grunden varje gång. För att skapa en metafor för människor som gillar filmer, tänk på Neo från Matrix när han laddar ner kung fu-färdigheter och sedan kan använda dem direkt utan träning. Om du kan träna färdigheter på LoRAs som kan överföras mellan uppgifter och robotar har du något liknande. LoRAs är i grunden mindre nätverk med additiva aktiveringar som hjälper till med finetuning av större modeller. Jag tror att framtiden för robotik ligger i foundational models och LoRAs har visat sig vara ett utmärkt sätt att göra finetuning.
Min uppfattning om min handledare är att han är mycket kunnig, om du har någon fråga har han alltid någon forskningsartikel som han känner till som är relaterad. Han har varit tålmodig och tar sig alltid tid när du behöver diskutera något. Inte bara är han fantastisk att arbeta med i labbet, men jag har också blivit inbjuden till andra aktiviteter som klättring, vilket har fått mig att känna mig välkommen.
A picture with Mr Tatsuya Matsushima, Mr Simon’s mentor
Q2: What was the reason for applying for the Matsuo Lab research internship? How did you find the Matsuo Lab’s research internship?
(In English)
I learned about the summer internship program through an email list that came through while I was attending ICRA 2024 in Yokohama, Japan. During my stay in Japan, I participated in a lab tour of the Matsuo Lab and visited the robotics lab, where I had the opportunity to speak directly with the lab members. I got the impression that everyone was very open and enthusiastic about their work, and I became strongly interested in the Matsuo-Iwasawa Lab.
Afterward, I did some more research, read the article on interview with Prof. Matsuo, and was really inspired by his vision for the lab. Usually, labs in academia focus more on paper writing for the sake of writing papers and have no grand vision, but Matsuo Lab stands out with Prof. Matsuo’s vision of creating a Silicon Valley in Japan and his quest for creating intelligence. Furthermore, I read the article on interviews with Mr. Iwasawa and Mr. Matsushima, which helped me understand what kind of environment the lab would be like. It felt like the best of two worlds between academia and industry. While the motivation and goals of the lab are what made me apply, there were also other nice benefits, like the internship and living expenses being paid, which is a bit rare when it comes to academics.
I will join the lab in the spring of 2025 to continue my work as a postdoc researcher. The internship showed me that the vision set by Prof. Matsuo also permeates within the lab, and everyone is excited about the work they do. I believe that the Matuso-Iwasawa lab can lead the way in Japan when it comes to creating intelligence, and I look forward to being a part of the team.
(In Swedish)
Jag fick reda på praktikplatsen genom ett e-postutskick till personer som deltog i ICRA 2024 i Yokohama. Jag fick besöka robotlabbet och pratade med några medlemmar, vilket väckte mitt intresse. De var väldigt öppna och verkade vara mycket entusiastiska över det arbete de höll på med. Efteråt gjorde jag lite mer research och såg intervjun med Matsuo och blev verkligen inspirerad av hans vision för labbet. Vanligtvis fokuserar laboratorier inom akademin mer på att skriva artiklar för skrivandets skull och har ingen övergripande vision, men Matsuo sticker ut med sin vision om att skapa ett Silicon Valley i Japan och hans strävan efter att skapa intelligens. Vidare läste jag andra intervjuer med Iwasawa och Matsushima, vilket hjälpte mig att förstå vilken typ av miljö labbet skulle vara. Det kändes som det bästa av två världar mellan akademin och industrin. Även om det var labbets motivation och mål som fick mig att söka, fanns det också andra trevliga förmåner som att praktiken och levnadskostnaderna skulle betalas, vilket är lite ovanligt när det gäller akademiska sammanhang.
Picture from ICRA Lab tour in May 2024
Q3: What is the daily schedule during the research internship?
Q4: Please share some of your fun memories during your stay in Japan.
One of the first day we went bouldering with some lab members / En av första dagarna så gick vi och klättrade med några gruppmedlemar.
In my free time I get to visit various places that Tokyo and Japan got in store like Odaiba. / På min fritid så finns det tid att besöka olika platser i Tokyo och Japan som Odaiba.
The lab generously invited us to join a sumo wrestling event. Labbet bjöd in oss till att titta på sumobrottning.
Thank you, Mr Simon, for sharing your time at Matsuo Lab!
Please also read articles featuring Mr Álvaro from Spain!
Matsuo Lab promotes fundamental research in an international environment to realize our vision of “Creating Intelligence.” We look forward to welcoming you all to next year’s summer internship (information will be available around late April to May).