ミルの「徹底した経験論」が主張するのは、次のことである。すなわち「演繹科学はすべて帰納的である」。数学はもちろん論理（学）ですら、「経験からの一般化」にすぎない。例えば、我々が矛盾律を採用するのは、我々の経験から抽出された「原理」であるが故に我々の経験がそれを支持するからである。
世界についての情報を獲得する方法、加えてそうした情報を加工したり、情報から推論を行なったりする方法そのものをもたらすものは、ただ帰納法だけである。では、我々は何故、帰納法を採用するのか？すべてが経験から帰納法によってもたらされるなら、帰納法もまたそうなのか？しかし経験から汲み出すためには、すでに帰納法がなくてはならない。
フレーゲは次のように云う。「帰納法自体が、《帰納的手続きによって、法則の真理性、あるいは少なくともその確からしさを確立できる》という普遍命題に基づいている。このことを否定する者にとって帰納は、心理的現象以上のものではなく、それは、人がある命題の真理性を信ずるようになる仕方に過ぎず、その信念がそうした仕方で得られたからといって、その正当化が与えられることにはならないのである」。もはや経験には基づかない普遍命題を前提にしなければ、帰納法は、まったくヒュームにとってそうであったようなものに成り下がるのである（→ヒューム対ミル）。
では「ある論理法則が真であるとはどういうことか？その根拠は何なのか？」という問いに対しては、フレーゲはどのように答えるのか？論理学ができるのは、その法則を別の論理法則に帰着させることでしかない。では論理学の外でその問いに答えようとするなら、様々な（例えば自然主義的に；脳の仕組がどうのこうの、進化の過程でどうのこうの）理由を提示することはできるであろう。けれど論理法則が「真である根拠」と「（我々が）真であるとみなす根拠」を（ヒュームを含めた「心理主義者」のように）混同してはならない。自然主義的な説明自身が、論理の上に成立するのである。
フレーゲにとって論理法則とは、採用したりしなかったりが任意であるような「ルール（規約）」ではない。もしそうだとしたらその採用の根拠をめぐって、ミルの場合と同様の「それ自体の根拠は問えないものの密輸入」を犯すことになるだろう。フレーゲはそうしたことを徹底して明るみにした後に、自身を、論理法則を「客観的であって非現実的なものからなる領域」における実在とみなす、「確信犯」として（のプラトニストと）位置付けるのである。