Posts

All the articles I've posted.

• llm-jp-modernbertの紹介

  23 Apr, 2025

  llm-jp-modernbertの紹介

• 基盤モデル研究の最初に読む論文リスト

  20 Apr, 2025

  本稿では基盤モデル研究で最初に読むと良さそうな論文をリストアップします.

• オープンLLMによる翻訳を活用した日本語CLIPの開発

  12 Feb, 2025

  本稿では, オープンLLMを活用して大規模日本語画像テキスト対データセットを構築し, 日本語CLIPを開発した研究について紹介します.

• llm-jp-eval-mmの紹介

  6 Feb, 2025

  本稿では, Silviaseさんと共同開発している, llm-jp-eval-mmという, 視覚言語モデルの日本語性能を評価するツールを紹介します.

• text2dataset: オープンLLMを用いたデータセット翻訳ツールの紹介

  29 Oct, 2024

  本稿では, text2datasetというオープンLLMを用いて英語データセットをもとに日本語翻訳データセットを構築するツールを紹介します.

• Let's Apply The AI Scientist to the SEIR Model

  9 Oct, 2024

  Let's apply The AI Scientist to the SEIR model, a differential equation-based model used to predict the spread of infectious diseases.

• Introduction to MinHash

  14 Jul, 2024

  本稿では, 大規模言語モデル用コーパス構築の重複除去において広く用いられているMinHashの基本的なアイデアとアルゴリズム, 比較回数の削減方法について説明します.

• LLMをゼロから事前学習する

  14 Jun, 2024

  LLMの事前学習の部分を完全理解するべく, LLMをJAXでフルスクラッチで事前学習してみたので, 本稿ではその方法を述べます.