Badanie funkcji jest w ścisłym związku z badaniem zbiorów. Jeżeli np. mamy daną funkcję zmiennej rzeczywistej , to jej obraz geometryczny jest pewnym zbiorem punktów płaszczyzny. Własności badanej funkcji zależą oczywiście od własności tego zbioru.
Z drugiej strony, badanie zbiorów punktów daje się sprowadzić do badania funkcji. Mając np. dany zbiór punktów prostej (osi -ów), określmy funkcję zmiennej rzeczywistej , kładąc dla liczb należących do zbioru , oraz dla liczb nie należących do : będzie to t. zw. funkcja charakterystyczna zbioru , której badanie jest równoważne badaniu zbioru . Funkcja charakterystyczna zbioru płaskiego byłaby oczywiście funkcją dwuch zmiennych rzeczywistych.
Już najprostsze zagadnienia, dotyczące funkcji ciągłych doprowadzają do rozważania różnych klas zbiorów.
Mając np. daną funkcję ciągłą zmiennej rzeczywistej, badamy zbiór jej miejsc zerowych, t. j. zbiór wszystkich tych liczb rzeczywistych , dla których . Co to jest za zbiór? Jaki warunek jest koniecznym i wystarczającym, aby zbiór był zbiorem miejsc zerowych pewnej funkcji ciągłej zm. rzecz.? Zbiory miejsc zerowych funkcji ciągłych, są to zbiory zamknięte. Inna własność charakterystyczna zbiorów zamkniętych jest ta, że zawierają wszystkie swe miejsca skupienia, t. j. granice ciągów, których wyrazy zawierają.
Znanem jest z analizy twierdzenie, że funkcja ciągła, określona w przedziale skończonym (wraz z końcami) dosięga w tym przedziale swych kresów. Czy twierdzenie to daje się uogólnić na funkcje ciągłe, określone nie w przedziale z końcami, ale w jakimś zbiorze ? Wiemy, że nie dla każdego zbioru będzie ono słusznem: np. nie będzie już słusznem dla przedziału bez końców. Jakim więc warunkom winien czynić zadość zbiór , aby każda funkcja ciągła, określona w zbiorze , dosięgała w nim swych kresów? Okazuje się, że na to potrzeba i wystarcza, aby zbiór był ograniczonym i zamkniętym.
Zbiory ograniczone i zamknięte posiadają ciekawą własność: są wszystkie obrazami ciągłymi jednego zbioru (z pośród nich), np. tak zwanego zbioru doskonałego nigdziegęstego Cantora
Weźmy inne twierdzenie znane z Analizy, np. to, że funkcja ciągła w przedziale, przechodząc od jednej wartości do drugiej, przechodzi przez wszystkie wartości pośrednie. Jakim warunkom winien czynić zadość zbiór (np. płaski), aby każda funkcja ciągła w zbiorze posiadała tę własność, że jeżeli przyjmuje w zbiorze dwie różne wartości, to przyjmuje też w zbiorze każdą wartość pośrednią między niemi? Okazuje się, że na to potrzeba i wystarcza, iżby zbiór był spójny, t. j żeby nie dał się rozbić na dwie części, z których żadna nie zawiera ani punktów, ani miejsc skupienia drugiej.
Na to, żeby oba wspomniane tutaj twierdzenia analizy były dla zbioru słuszne (tw. o kresach i t. zw. tw. Darboux), potrzeba i wystarcza, aby zbiór (o ile się nie składa z jednego tylko punktu) był continuum (t. j. zbiorem ograniczonym, zamkniętym i spójnym).
Weźmy teraz takie zagadnienie: Jakim warunkom winien czynić zadość zbiór , aby z równości w zbiorze dwuch funkcji ciągłych zm. rzeczyw. można było wnioskować o ich równości dla wszystkich rzeczywistych ? Okazuje się, że na to potrzeba i wystarcza, żeby zbiór był wszedziegęsty, t. j. żeby w każdym przedziale leżały punkty zbioru .
Mając daną funkcję zmiennej rzeczywistej możemy badać zbiór jej punktów nieciągłości. Jakie warunki są konieczne i wystarczające na to, żeby dany zbiór mógł być zbiorem wszystkich punktów nieciągłości jakiejś funkcji zmiennej rzeczywistej? Okazuje się, że na to potrzeba i wystarcza, żeby zbiór Z był sumą szeregu nieskończonego zbiorów zamkniętych, czyli t. zw. zbiorem . Wśród zbiorów również istnieją takie, których obrazy ciągłe dają wszystkie zbiory .
Różne zagadnienia doprowadzają do badania różnych klas zbiorów, bardziej lub mniej skomplikowanych. To też zaszła potrzeba zrobienia jakiegoś porządku wśród różnych spotykanych zbiorów i wprowadzenia odpowiedniej nomenklatury.
Pierwsze pytanie, które się tu nasuwa, to jest to, zapomocą jakich operacji możemy, wychodząc z pewnych elementarnych zbiorów, otrzymywać zbiory, potrzebne do naszych badań?
Najważniejsze operacje na zbiorach są trzy: dodawanie zbiorów, czyli łączenie w jeden zbiór dwuch lub większej liczby zbiorów, odejmowanie zbiorów czyli usuwanie z jednego zbioru tych elementów, które należą do drugiego, oraz mnożenia zbiorów, czyli tworzenie części wspólnej dwuch lub więcej zbiorów. Suma szeregu skończonego lub nieskończonego zbiorów jest to więc zbiór, zawierający wszystkie elementy każdego ze składników i tylko takie elementy; iloczyn ciągu skończonego lub nieskończonego zbiorów jest to zbiór, zawierający te i tylko te elementy, które należą do każdego z czynników. Różnica zbioru , jest to zbiór, utworzony z tych elementów zbioru , które nie należą do .
Mnożenie zbiorów daje się zresztą zawsze sprowadzić do dodawania i odejmowania zbiorów, w myśl tożsamości
Niech oznacza jakąkolwiek rodzinę zbiorów. Rodzinę wszystkich zbiorów, będących sumami szeregów nieskończonych zbiorów, należących do rodziny , oznaczamy przez , zaś rodzinę wszystkich zbiorów, będących iloczynami nieskończonemi zbiorów, należących do rodziny , oznaczamy przez . Jasnem jest, co oznaczają symbole , , i t. d. Łatwo widzieć, że zawsze oraz , gdyż każdy ciąg podwójny można, jak wiadomo, ustawić w ciąg zwykły.
Zbiory zamknięte oznaczane są przez ; ich dopełnienia, czyli zbiory otwarte, oznaczane są przez . Jasnem jest, co oznaczają symbole , , , , i t. d Symboli i nie mamy potrzeby wprowadzać, gdyż iloczyn zbiorów zamkniętych jest zawsze zamknięty (zatem ) zaś suma zbiorów otwartych jest zbiorem otwartym (a więc ).
Więc np. na to, żeby zbiór był zbiorem wszystkich punktów ciągłości jakiejś funkcji zmiennej rzeczywistej, potrzeba i wystarcza, iżby był . Na to, żeby zbiór był zbiorem wszystkich wartości, które jakaś funkcja ciągła przyjmuje nieskończenie wiele razy, potrzeba i wystarcza, iżby był sumą zbioru , oraz zbioru skończonego lub przeliczalnego.
Weźmy teraz przykład z teorji funkcji zmiennej zespolonej. Mamy dany szereg potęgowy o skończonym promieniu zbieżności. Co można powiedzieć o zbiorze tych punktów koła zbieżności, w których szereg jest zbieżny? Udowodniono, że jest to zawsze zbiór ; otwartem jednak pozostaje pytanie, czy każdy zbiór , położony na kole, jest zbiorem wszystkich punktów zbieżności jakiegoś szeregu potęgowego, którego kołem zbieżności jest uważane koło.
Zbiory , , , , i t. d., przedstawiają najprostsze klasy t. zw. zbiorów Borela. Są to zbiory, które powstają z przedziałów przez stosowanie przeliczalnej ilości dodawań i mnożeń. Klasę wszystkich zbiorów borelowskich można też określić jako najmniejszą klasę K zbiorów, posiadającą następujące dwie własności klasa zawiera wszystkie przedziały; klasa zawiera sumy oraz iloczyny każdego ciągu nieskończonego zbiorów, należących do .
Jak ogólną jest klasa zbiorów Borela, dowodzi choćby fakt, że wszystkie zbiory, które badano do r. 1905-go, nie wyłączając przykładów na najrozmaitsze osobliwości, były zbiorami Borela. Dopiero w r. 1905-ym Lebesgue zbudował pierwszy przykład zbioru nie-borelowskiego, ale uczynił to przy pomocy liczb pozaskończonych i w sposób nader skomplikowany. To też jeszcze przez kilkanaście lat panowało przekonanie, że wszystkie proste operacje, wykonywane na zbiorach Borela, dają jako wyniki tylko zbiory Borela. Dopiero Suslin w r. 1916 okazał, że tak nie jest, mianowicie, że już rzuty zbiorów (płaskich) mogą nie być zbiorami Borela. Rzuty zbiorów Borela tworzą nową, obszerniejszą klasę zbiorów, zwanych zbiorami , albo analitycznemi. Teorję tych zbiorów rozwinął głównie prof. Łuzin. Jak ogólnemi są zbiory , dowodzi choćby fakt, że wszystkie zbiory punktów, które były określane efektywnie aż do chwili zbudowania teorji zbiorów , nie wyłączając przykładów zbiorów nie-borelowskich, były bądź zbiorami , bądź ich dopełnieniami.
Dziś posiadamy już szereg równoważnych definicji zbiorów . Do zbiorów tych doprowadzają różne zagadnienia, dotyczące funkcji ciągłych, lub najprostszych funkcji nieciągłych. Najprostszemi funkcjami po funkcjach ciągłych są funkcje zmiennej rzeczywistej, ciągłe wszędzie conajmniej z jednej strony, np. lewej. Otóż zbiór wszystkich wartości takiej funkcji jest zawsze zbiorem , i każdy zbiór (linjowy) jest zbiorem wszystkich wartości pewnej funkcji wszędzie ciągłej ze strony lewej. Co do funkcji ciągłych ze strony lewej, to zauważymy, że przy ich pomocy daje się ustalić odwzorowanie wzajemnie-jednoznaczne pomiędzy punktami odcinka, a punktami kwadratu, czego, jak wiadomo, nie można zrobić zapomocą funkcji ciągłych.
Zbiory są dosyć dobrze zbadane; nie można jednak tego powiedzieć o ich dopełnieniach, czyli t. zw. zbiorach . Jednem z nierozstrzygniętych dotąd pytań, dotyczących tych zbiorów, jest pytanie, czy w każdym nieprzeliczalnym zbiorze daje się określić funkcja, przybierająca wszystkie wartości rzeczywiste.
W r. 1924 zauważył Łuzin, że istnieją bardzo proste operacje, które, dokonane skończoną liczbę razy na zbiorach Borela, doprowadzają już nie tylko do zbiorów i ich dopełnień, ale do zbiorów znacznie bardziej skomplikowanych. Są to operacje rzutu i dopełnienia.
Przez rzut punktu przestrzeni -wymiarowej rozumiemy punkt przestrzeni wymiarowej, a więc punkt, otrzymany z danego przez odrzucenie ostatniej jego spółrzędnej. Rzut zbioru jest zbiorem rzutów jego punktów. Przez dopełnienie zbioru , leżącego w przestrzeni -wymiarowej , rozumiemy zbiór . Rzut zbioru oznaczmy przez , dopełnienie przez . Jasnem jest znaczenie symboli , , i t. d. Zbiory, otrzymywane ze zbiorów zamkniętych przestrzeni o dowolnej, skończonej liczbie wymiarów, przez stosowanie skończonej liczby razy operacji i , nazywamy zbiorami rzutowymi. Okazuje się, że zbiory są to zbiory (i naodwrót), są (i naodwrót), są zbiorami (i naodwrót). O pewnych ich własnościach będę miał sposobność mówić szczegółowiej w komunikacie sekcyjnym. Jak ogólnymi są zbiory rzutowe, dowodzi fakt, że wszystkie zbiory punktowe, które były efektywnie określone aż do r. 1925-go były zbiorami rzutowymi. Dziś już jednak potrafimy określać efektywnie zbiory punktowe, nie będące rzutowymi.
Zbiory mają zastosowanie nie tylko w teorji funkcji zmiennej rzeczywistej. W dzisiejszej analizie ważną rolę odgrywają funkcje których zmiennymi są zbiory punktów, zaś wartościami – liczby rzeczywiste Są to t. zw. funkcje zbiorów. Wśród nich wyróżniają się addytywne, t. j. spełniające warunek , dla każdego skończonego, względnie nieskończonego szeregu zbiorów, zależnie od tego, czy chodzi o addytywność zwykłą czy też bezwzględną. Do takich funkcji należy np. miara zbioru. Całka sprowadza się, jak wiadomo, do miary: np. całka funkcji zmiennej rzeczywistej jest miarą pewnego zbioru płaskiego, wyznaczonego przez obraz tej funkcji. Do funkcji zbioru dają się też sprowadzić t. zw. funkcje linji, gdzie zmiennemi są funkcje, zaś wartościami liczby rzeczywiste.
Z drugiej strony, przy badaniu zbiorów, funkcje odgrywają nader ważną rolę, zwłaszcza funkcje, których elementami oraz wartościami są punkty (wogóle przestrzeni wielowymiarowej).
O funkcji , określonej dla elementów p danego zbioru , której wartościami są elementy zbioru mówimy, że jest różnowartościową, jeżeli zawsze , dla .
Jeżeli istnieje funkcja różnowartościowa, określona w zbiorze , której zbiorem wartości jest zbiór , to mówimy, że zbiory i są równej mocy. Jeżeli nadto funkcja ta jest ciągłą w zbiorze , zaś jej funkcja odwrotna jest ciągłą w zbiorze , to mówimy, że zbiory i są homeomorficzne. Stąd już widać, jak ważną rolę odgrywa pojęcie funkcji zarówno w ogólnej teorji mnogości (w teorji mocy), jak również w topologji, która zajmuje się badaniem własności zbiorów, które są niezmiennikami przekształceń homeomorficznych.
Ważną rolę odgrywają też w różnych badaniach funkcje, które zbiorom przyporządkowywują zbiory. Każda operacja na zbiorach jest taką właśnie funkcją: np. rzut zbioru, dopełnienie zbioru, zbiór wszystkich punktów skupienia zbioru i t. p. W pewnych badaniach spotykamy też funkcje, które liczbom rzeczywistym przyporządkowywują zbiory. Prosty przykład takiej funkcji otrzymujemy, przecinając dany zbiór płaski prostemi równoległemi do osi -ów Każdej liczbie rzeczywistej odpowiada tu zbiór wszystkich punktów zbioru o odciętej . W ostatnich czasach badano też funkcje, które rodzinom zbiorów przyporządkowywują rodziny zbiorów. Przykładami takich funkcji są np. , .