Bongs werden häufig mit Wasserpfeifen verglichen, da sie ähnlich wie diese aufgebaut sind. So ist auch bei der Bong ein Köpfchen angebracht, welches mit Tabak gefüllt werden muss und beim Bong-Rauchen ertönt das ebenso bei der Shisha so bekannte Blubber-Geräusch, da der Bong-Bauch mit Wasser gefüllt ist und dieses bei dem durch die Ansaugphase erzeugten Unterdruck zu blubbern beginnt. Allerdings wird das Röhrchen, durch welches der Rauch angesaugt und eingeatmet wird als 'Shillum' bezeichnet und bei einer Bong ist eine kleine Öffnung innerhalb des Bauches angebracht, welche 'Kickloch' genannt wird. Eine Ausnahme bildet die 'Holland-Bong', welche statt mit einem Kickloch mit einem abnehmbaren Flutschkopf ausgestattet ist.

Ist der Bongbauch mit etwas Wasser und das Köpfchen mit der gewünschten Tabakmischung gefüllt worden, kann der Rauchvorgang beginnen. Dazu muss die Öffnung des Shillums mit den Lippen umschlossen, das Kickloch mit einem Finger zugehalten und die Tabakmischung entzündet werden.

Dann beginnt man mit der so genannten 'Ansaugphase', während der man so lange kräftig zieht, bis sich die Bong mit Rauch gefüllt hat (an dieser Stelle beginnt das Wasser zu blubbern). Der Rauch zieht nun hoch ins Shillum und man hat nun lediglich noch die Aufgabe, das Kickloch zu öffnen und den Rauch einzuatmen. Möchte man das Raucherlebnis intensivieren, kann man den Bongbauch auch mit gekühltem Wasser oder mit Eiswürfeln füllen. Allerdings ist letztere Variante nur mit speziellen Ice-Bongs durchführbar.