マイクロソフトのPhi-2をGeForce RTX 3090で試してみた。

先日、Macbook Pro M1 Pro環境下でPhi-2を試してみたが、今度は第10世代Core i5, 64GB DDR 4 RAM, GeForce RTX 3090と言う構成で、Ubuntu 20.04環境下でマイクロソフトのPhi-2を試してみた。 まだ少し扱い方がわからないので、トレーニングされたデータを使った形(結構そのままの形)で出力されているようだ。
動画をYouTubeにアップロードしたので、よかったら見てください。nvi-smiでGPUの消費電力等が分かるようにセットアップしています。

コメント