Este artigo tem como objetivo apontar reflexões filosóficas acerca da modelagem matemática e de seu papel na atribuição de sentidos aos fatos do mundo e, em particular, à linguagem matemática. Nossas reflexões tomam como norte elementos da filosofia wittgensteiniana sobre linguagem, especificamente a ideia de uso presente nas Investigações Filosóficas de Wittgenstein. Por meio da Filosofia da Linguagem de Ludwig Wittgenstein e da Epistemologia do Uso de Arley Ramos Moreno uma discussão conceitual é trazida para a pauta de modo a colocar em debate a constituição do sentido a partir do desenvolvimento de atividades de modelagem matemática. O percurso metodológico intercala elementos da filosofia wittgensteiniana e da epistemologia do uso de Moreno na análise de diferentes práticas de modelagem matemática desde a Educação Infantil. A partir dos olhares lançados às atividades de modelagem matemática, no que tange à utilização, manipulação ou construção de modelos matemáticos, os resultados apontam para as possibilidades de formalização matemática nos primeiros anos escolares; para o papel dos instrumentos da linguagem, como gestos ostensivos e denominação, que organizam a introdução dos alunos dos primeiros anos escolares nos diferentes jogos de linguagem da matemática; para a manipulação e uso de modelos matemáticos no que tange a conceitos associados à geometria, numeração, ordenação, classificação, proporcionalidade, medidas, tratamento da informação, adição e multiplicação.