Show HN: 約1GBのQwenの重みで動作するファミコン(NES)
Nesformerは、Drew Breunig氏による実験的なプロジェクトであり、約1GBのファインチューニングされたQwen Transformerモデルの重みを用いてファミリーコンピュータ(NES)をエミュレートします。
Nesformerは、Drew Breunig氏による実験的なプロジェクトであり、約1GBのファインチューニングされたQwen Transformerモデルの重みを用いてファミリーコンピュータ(NES)をエミュレートします。このニューラルネットワークは、従来のエミュレータ命令を実行するのではなく、世界モデル(ワールドモデル)として機能し、プレイヤーのコントローラー入力と過去のフレーム履歴に応じてゲーム状態を予測し、後続のビデオフレームをレンダリングします。本プロジェクトは、Transformerアーキテクチャが複雑な離散状態機械や視覚的なゲームロジックをどのように学習できるかを示しており、動的ビデオシミュレーションにおける小規模言語モデルの新しい応用可能性を探求しています。