“敖包”大多数都筑在山顶或丘陵上，一般呈圆形，高约数丈，顶端种有柳树枝条或者榆树枝条；此外，在敖包顶上，一般都插有三根“玛尼杆”，挂着部落的旗帜，正面紧靠敖包安放着一把明晃晃的三股钢叉，包前有石制的贡桌。

关于“敖包”的由来，在蒙古族牧民中流传着许多美好的传说。

比如在内蒙古希拉穆仁草原上，就流传着“红格尔敖包”的传说。传说有一个蒙古族牧民的母亲得了重病，无法医治。该牧民就徒步赶往圣山五台山，准备烧香拜佛，为母亲祈福。他一步一磕头，历经千辛万苦，终于到达了五台山。等他烧完了香拜过了佛，就一下子晕倒了。五台山上有一座神奇的敖包，里面的神佛感念他的虔诚，就将信徒供奉的食物放到了他的面前。

牧民醒来后，认为佛祖真的显灵了，老母一定有救了，一下子便坐了起来。他将贡品包起来，快步的往家走。在漆黑的夜里，他迷路了。正在这时，一盏明亮的灯在他前面亮了起来，为他指路，这盏灯就是敖包里的神幻化出来的。在明灯的指引下，牧民很快回到了希拉穆仁草原。在红格尔山包上，那盏明灯突然站住不走了。当牧民回到家里，看见母亲已经完全康复了。

第二天，牧民搀扶着母亲，来到红格尔山包上，用石块垒起一座敖包，取名叫做“红格尔敖包”，他希望让五台山敖包的神灵永远在希拉穆仁草原上安家。这一天，是中国的农历五月十八。从此以后，每年的这一天，牧民和他的孩子都来祭祀红格尔敖包。

研究者认为，“敖包”大抵分为四种类型：一种是用来标明旗（县）、省界的界标；一种是幸福为了镇鬼敬神、保佑旗民平安幸福而设置的；一种是用来安葬苏木达日嘎（乡一级的长官）、扎萨克（旗长）、英雄、名人、活佛、喇嘛的；最后一种是作为道路的标记用的。

不过，“敖包”在草原人们的心目中，一直具有神圣的位置，象征着神灵在其位。人们每逢外出远行，凡是路经有“敖包”的地方，都要下马向“敖包”参拜，祈祷一路平安；还要往“敖包”上添加几块石头或者几捧土，然后才跨马上路。牧羊人在放牧时路过这里，总要往“敖包”上添加一块石头，以保佑人畜两旺。

祭敖包的历史十分悠久。《汉书·匈奴传》记载：“岁正月，诸长小会单于庭祠。五月，大会龙城，祭其先、天地、鬼神……”蒙古人祭敖包就是延续这种古俗而来。大概在清朝时期，“祭敖包”的习俗才固定在每年的农历五月中旬，一般持续三四天。远近牧民，都要来参加，还要请众多的喇嘛诵经，如同过节一样，非常热闹。据说，吃了祭品，人会得到福气。