Skip to content

Archives

All the articles I've archived.

2025 7
October 1
September 1
May 1
April 2
February 2
2024 7
October 2
July 1
  • Introduction to MinHash

    本稿では, 大規模言語モデル用コーパス構築の重複除去において広く用いられているMinHashの基本的なアイデアとアルゴリズム, 比較回数の削減方法について説明します.

June 1
  • LLMをゼロから事前学習する

    LLMの事前学習の部分を完全理解するべく, LLMをJAXでフルスクラッチで事前学習してみたので, 本稿ではその方法を述べます.

April 1
  • Python's Garbage Collection

    In this post, we will examine the garbage collection (GC) in CPython. Furthermore, we will also look into the relationship between GC and Global Interpreter Lock (GIL).

February 1
January 1
2023 4
November 2
  • 院試体験記2023

    こんにちは, speedです. 猛烈な暑さが続き「最も暑い夏」と言われた2023年の夏, 大学院修士課程を受験しました. 情報系人気も相まって大学院受験に合格することは難しいと考え, 私は複数校受験しました.

  • 最適輸送(Optimal Transport)

    本稿では, 最適輸送(Optimal Transport)の基本的な考え方と応用例について説明します.

August 1
January 1
  • Garbage Collection ~mark & sweep法~

    本稿では, ガベージコレクションのアルゴリズムの一つであるmark & sweep法のアルゴリズムを解説します.

2022 2
December 1
  • 大学一年生の私に贈る「情報科学の世界」

    本書では、stray sheep(迷える子羊)だった大学一年生の私に向けて、どのように情報科学を学ぶのが良いか、ブラウザの仕組みをボトムアップに説明していく過程で各論の良書をリストアップしながら「知の高速道路」を提供します。

August 1