Hur vet man vad ämnen består av?

En ganska bred fråga. Generellt när det gäller naturvetenskaperna så finns det två metoder för att ta reda på saker:

1. En teoretiker försöker klura ut hur något borde fungera baserat på tidigare upptäckter och vad matematiken förutsäger samt kommer fram till en hypotes. Denna hypotes kan man testa genom att den ofta ger förutsägelser. En praktiker försöker ta reda på om dessa förutsägelser stämmer eller inte stämmer genom experiment. Om dessa experiment inte stämmer överens med förutsägelserna så är hypotesen felaktig. Tillbaka till ritbordet. Om man istället kan bekräfta förutsägelserna så kallar man hypotesen för teori. En teori är alltså ett påstående om hur något fungerar som har fått någon form av bekräftelse genom försök. Den teori som bäst beskriver hur naturen fungerar och bäst stämmer överens med försöken blir den ledande förklaringsmodellen som lärs ut i skolor osv. Notera att det inte betyder att teorin är rätt, utan att det är den bästa förklaringsmodellen vi känner till. Det gick nästan 300 år efter Isaacs Newtons förklaring av gravitationen innan Einstein lade fram sin allmänna relativitetsteori som gav en än bättre beskrivning av gravitationen. Men vi vet att den inte kan förklara allt vi observerar (den fungerar inte för små partiklar), så i framtiden kan vi ha en ännu bättre teori.
2. Ett annat alternativ är en empirisk undersökning. Då har man dålig eller ingen koll på hur något fungerar utan gör försök och kommer fram till olika samband som tycks förklara hur naturen fungerar. Det finns då inget långt teoretiskt förarbete och resultatet är sällan lika ”fina”.

Man har använt en kombination av dessa två metoder för att komma fram till sakerna du beskriver. Men mer konkret så finns det en mängd olika analysmetoder för att ta reda på ämnenas sammansättning och strukturer. För att ta reda på vilka atomslag som finns i ett ämne utnyttjar man ofta att atomerna sänder ut karakteristisk strålning när de värms upp eller bestrålas med röntgenstrålning eller mottar energi på annat sätt. XRF, ICP, OES och EDS är exempel på sådana metoder. För att ta reda på ämnens strukturer kan man utnyttja metoder som undersöker kristallstrukturer, t.ex. XRD, hur atomerna binder till varandra, t.ex. NMR, eller hur molekylerna vrider planpolariserat ljus. Kort sagt så finns det mängder med olika analysmetoder och ofta får man använda en kombination av dem för att helt karakterisera ett ämne. 

Ett vanligt sätt historiskt, och kanske fortfarande, är att bränna upp ämnet och se hur mycket återstoden väger.

Ett annat sätt är att utsätta ämnet för andra kända ämnen som det reagerar med och så kan man analysera vad resultatet blir.

Jag borde känna till vilket det första ämne var som man lyckades bestämma den kemiska formeln för, men det har jag glömt. Det finns många intressanta böcker om kemins och fysikens historia, men jag kan tyvärr inte nämna någon på rak arm.

Dyk in i ett bibliotek.

Det äldsta kända ämnet är nästan helt säkert guld, det har man känt till så långt det går att spåra sedan någon gång på stenåldern. Det är ett av få ämnen som går att hitta i ren form i naturen. Men det är en helt annan sak att komma fram till att det är ett grundämne som består av enbart guldatomer. Man höll på med alkemi nästan in i modern tid och hade en tro att det gick att framställa guld på konstgjord väg.

Jag vet inte vilken som var den första molekylen att upptäckas. Frågan är om man egentligen kan säga att det är något vi har ”upptäckt”. Hur atomen ser ut och fungerar är ju något man kom fram till först på 1900-talet. Det är svårt att se att man ska ha upptäckt någon molekyl innan dess. I princip har man ju utgått från teorin att det finns atomer, lagt fram en teori att dessa kan kombineras till molekyler. Det ger då förutsägelser man kan testa och som stämmer överens med verkligheten. På så sätt har man bekräftat att de finns, men man ska komma ihåg att ingen någonsin har sett varken elektroner, atomer och om ens molekyler. De finns egentligen inte, åtminstone inte i betydelsen som många tror. Det är bara en förklaringsmodell som har visat sig vara framgångsrik att beskriva hur naturen fungerar.

Så materia består egentligen inte av små bollar med elektronmoln och en kärna av protoner och neutroner, utan det är bara vårt sätt att förklara naturen?

Så är det. Vår bild av partikelfysik och hur molekyler, atomer, elektroner etc. fungerar har ständigt utvecklats. Under antiken var den ledande teorin tron på de klassiska elementen:

https://sv.wikipedia.org/wiki/Klassiska_element 

Allt i universum byggdes upp av de fyra elementen jord, luft, vatten och eld. Alla objekt omgavs dessutom av ett femte element, ”eter” som genomsyrade hela universum (det lever fortfarande kvar i radion där man använder uttryck som ”genom etern”). Det var en modell som kunde förklara många av de observationer man kunde göra med tekniken som fanns tillgänglig under antiken, och under ganska lång tid framåt.

Den riktigt stora, revolutionerande händelsen var att man till följd av upplysningens filosofier på riktigt blev intresserad av att undersöka hur naturen fungerar på ett sätt vi använder än idag. Man utvecklade då det som kallas vetenskaplig metod:

https://sv.wikipedia.org/wiki/Vetenskaplig_metod 

Kort och gott: Ta fram en hypotes som ger förutsägelser. Testa förutsägelserna. Stämmer förutsägelserna med experimenten, anses teorin styrkt. Annars måste den förkastas. Det var ett sätt att tänka som inte alls var uppenbart under tidigare årtusenden och som på riktigt banade väg för det som kallas den vetenskapliga revolutionen, som senare lade grund för den mer kända industriella revolutionen:

https://en.wikipedia.org/wiki/Scientific_Revolution 

Ett tidigt exempel är upptäckten av syre. Innan det upptäcktes trodde man att allt som gick att förbränna innehöll något som kallas för flogiston:

https://sv.wikipedia.org/wiki/Flogiston 

Tanken var att detta flogiston försvann efter förbränningen, varvid askan inte gick att förbränna. Den teorin kan verka knepig idag, men den är trots allt ganska rimlig eftersom den kan förklara varför förbränning sker och ger förutsägelser man kan bekräfta. Men med tiden upptäckte man att teorin inte kunde förklara vissa observationer, varvid man istället lade fram teorin att luften innehåller syre som reagerar med det som brinner. Det var en bättre teori, varvid man förkastade flogistonteorin. Så har man alltid hållit på att förfina naturvetenskapliga modeller. Vad gäller atomen var Bohrs atommodell framgångsrik, men den övergavs till förmån för den kvantmekaniska atommodellen. Den används än idag, men det finns ingenting som säger att den modellen kommer att gälla om 1000 år. Den är inte objektivt sann i betydelsen att det faktiskt finns atomer där ute.

Tack för ditt utförliga svar!