tinycore に相当するのは tce-load http://wiki.tinycorelinux.net/wiki:package_management_cheat_sheet です
おそらく TinyCore で dpkg/apt をコンパイルできますが、そうすると自分でパッケージ化する必要があります。
しかし、実際には、ここで間違ったことを最適化しています。メモリ使用量を決定する主な要因は、使用するアプリケーションです。おそらく、Debian + 最小限のウィンドウ マネージャー (Openbox など) で行うことができます。十分に軽量であるべきです。
tce-load -wi gcc.tcz を試す gccをインストールするため。 tce-load はパッケージマネージャーで、wi ダウンロードしてインストールすることを意味します。 TCZ リポジトリで利用可能なパッケージのリストを見てください。