少年时代进行数学竞赛在世界有着悠久的历史，一般认为始于1894年由匈牙利数学界为纪念数理学家厄特沃什-罗兰而组织的数学竞赛。而把数学竞赛与体育竞赛相提并论，与科学的发源地--古希腊联系在一起的是前苏联，她把数学竞赛称为数学奥林匹克。20世纪上半叶，不同国家相继组织了各级各类的数学竞赛，先在学校，继之在地区，后来在全国进行，逐步形成了金字塔式的竞赛系统。从各国的竞赛进一步发展，自然为形成最高一层的国际竞赛创造了必要的条件。1975年匈牙利布达佩斯大学数学委员会提倡创立，并于1978年8月在匈牙利举行了第一次世界奥林匹克数学竞赛（WouldMathematicalOlympiad简称WMO）。随着影响力的扩大参加的国家和地区逐渐增多，1998年在日本文部省的支持下，由日本少年智力开发基金及20家大企业的多方协力下，协会总部迁驻日本东京，现任主席世界著名数学教育家皮特弗朗克教授。目前参加这项赛事的代表队有60余支。经过30多年的发展，世界数学奥林匹克竞赛的运转逐步制度化、规范化，有了一整套约定俗成的常规，并为历届东道主所遵循。
2005年经协会成员国的讨论研究，决定2008年在日本东京举办世界少年奥林匹克数学大赛。2006年接到中国地区组委会的申请，2007年8月批准加入本协会。
因为世界奥林匹克数学竞赛针对的是少年，因此也称为世界少年奥林匹克数学竞赛。