国家公務員や、多くの地方自治体の事務職の高卒の新卒採用は、高卒2~4年目までしか受験できません。
大卒級であれば、大学に行っていなくても30歳くらいまでは受験することができますが、率直に言って質問者さんの学歴経歴では合格は難しいと思います。
また、社会人採用、経験者採用と呼ばれるような、社会人を対象とした採用のある役所もありますが、これも質問者さんの経歴では、役所の仕事に役立つ経験があるとは言いがたいように思います。
公務員の中でも、警察や消防のような現場系の仕事や、事務職でも地方の小さな市町村なんかだと、大卒高卒の区別があまりなく、歳がいっていても受験できるところも少ないながらあるようです。
なので、まずしなければならないことは、質問者さんの年齢でも受験できる高卒級の試験をやっているところを探して、場所や仕事の内容から見てそこに勤めたいと思うかどうか、見つかったら、そこの採用試験はどのようなやり方をしているかを調べて、それに合った勉強をすることです。
なお、広い意味での公務員でも、会計年度職員などと呼ばれるいわゆる非正規職員の事務手伝いみたいな仕事であれば、年齢や学歴はあまり問われず、たいした試験もありませんが、せいぜい2~3年くらいの契約で、正規の公務員の安定性はありません。