ご質問の「ロケーション履歴」とは、Googleアカウントの設定ページにあるスイッチのことでしょうか? このスイッチは、スマートフォンが取得したロケーション(位置情報)を継続的に記録し、位置情報を必要とするGoogleのアプリ/サービスでの利用を許可するためのものです。
ロケーション履歴は「Googleマップ」のタイムライン機能(過去の移動ルートを地図で振り返る機能)のほか、リアルタイムの交通状況を確認するときに参照されます。紛失したスマートフォンを探すときにも参照されるため、特段の事情がないかぎりオンにして利用することが推奨されます。
位置情報の記録はシステムのバックグラウンドで実行され、クラウド(Googleのサーバ)に蓄積されていきます。「Googleマップ」のタイムライン画面を開き、日付や場所、都市、全地域といったタブを選択すると、地図を見ながら自分の行動を振り返ることができます。
ロケーション履歴はGoogleアカウントに紐付けられてクラウドに保存され、参照するときには特定のハードウェアに依存しません。だからAndroid端末で記録された位置情報をiPhoneやパソコン(Windows/Mac)のアプリ/WEBブラウザで確認したり、反対にiPhone(iOS版Googleマップ)で記録された位置情報をAndroid端末で表示したりすることができます。
いつ・どこにいたかが正確に記録されるロケーション履歴は、プライベートかつセンシティブな情報です。そのため、取り扱いにはじゅうぶん注意すべきですが、有効にしておくほうが利便性が高いこともまた確かです。Googleマップを利用すればロケーション履歴の一部/すべてを削除できるので、気になる場合は定期的に確認/削除することもひとつの考えかたでしょう。